При оценке максимального правдоподобия вы пытаетесь максимизировать ; однако максимизация этого эквивалентна максимизации для фиксированного . p x ( 1 - p ) n - x xн СИкс пИкс( 1 - р )н - хпИкс( 1 - р )н - хИкс
На самом деле, вероятность для гаусса и пуассона также не включает их ведущие константы, поэтому этот случай такой же, как те, что
Обращение к ОП
Вот немного подробнее:
Во-первых, - это общее количество успехов, тогда как - это одно испытание (0 или 1). Следовательно:ИксИкся
Πя = 1NпИкся( 1 - р )1 - хя= рΣN1Икся( 1 - р )ΣN11 - хя= рИкс( 1 - р )н - х
Это показывает, как вы получаете факторы вероятности (выполнив вышеуказанные шаги в обратном направлении).
Почему постоянная уходит? Неформально, и то, что делает большинство людей (включая меня), просто замечает, что ведущая константа не влияет на значение которое максимизирует вероятность, поэтому мы просто игнорируем ее (фактически установите ее равной 1).п
Мы можем получить это, взяв журнал функции правдоподобия и найдя, где ее производная равна нулю:
пер( n CИкс пИкс( 1 - р )н - х) =ln( n CИкс) + x ln( p ) + ( n - x ) ln( 1 - р )
Возьмите производную по и установите в :п0
ddппер( n CИкс) + x ln( p ) + ( n - x ) ln( 1 - р ) = хп- н - х1 - р= 0
⟹NИкс= 1п⟹р = хN
Обратите внимание, что ведущая постоянная выпала из расчета MLE.
С точки зрения философии, правдоподобие имеет смысл только для умозаключения вплоть до постоянной умножения, так что если у нас есть две функции правдоподобия и , то они являются косвенно эквивалентными. Это называется законом правдоподобия . Поэтому, если мы сравниваем разные значения используя одну и ту же функцию правдоподобия, начальный член становится неактуальным.L1, Л2L1= к л2п
На практическом уровне логический вывод с использованием функции правдоподобия фактически основан на отношении правдоподобия, а не на абсолютном значении правдоподобия. Это связано с асимптотической теорией отношений правдоподобия (которые асимптотически являются хи-квадрат - подчиняются определенным условиям регулярности, которые часто являются подходящими). Тесты отношения правдоподобия предпочтительны благодаря лемме Неймана-Пирсона . Поэтому, когда мы попытаемся проверить две простые гипотезы, мы возьмем соотношение, и общий ведущий фактор отменит.
ПРИМЕЧАНИЕ. Этого не произойдет, если вы сравниваете две разные модели, например, бином и пуассон. В этом случае константы важны.
Из приведенных выше причин первая (несоответствие поиску максимизатора L) наиболее прямо отвечает на ваш вопрос.
XI в продукте относится к каждому отдельному испытанию. Для каждого отдельного испытания xi может быть 0 или 1, а n всегда равно 1. Следовательно, тривиально, биномиальный коэффициент будет равен 1. Следовательно, в формуле произведения для вероятности произведение биномиальных коэффициентов будет равно 1, и, следовательно, в формуле нет nCx. Осознал это, работая шаг за шагом :) (Извините за форматирование, не привык отвечать на математические выражения в ответах ... пока :))
источник