В настоящее время я пытаюсь понять принцип правдоподобия и, честно говоря, не понимаю его вообще. Итак, я напишу все свои вопросы в виде списка, даже если это могут быть довольно простые вопросы.
- Что именно означает фраза «вся информация» в контексте этого принципа? (как и вся информация в образце содержится в функции правдоподобия.)
- Связан ли этот принцип с очень доказуемым фактом, что ? Является ли «вероятность» в принципе тем же, что и , или нет?
- Как математическая теорема может быть «спорным»? Мое (слабое) понимание математики состоит в том, что теорема либо доказана, либо не доказана. К какой категории относится принцип правдоподобия?
- Насколько важен принцип правдоподобия для байесовского вывода, основанный на формуле ?
bayesian
likelihood
likelihood-principle
Карел Билек
источник
источник
Ответы:
Принцип правдоподобия был сформулирован по-разному, с переменным значением и понятностью. Книга «Вероятность» А. Ф. Эдвардса является отличным введением во многие аспекты вероятности и все еще печатается. Вот как Эдвардс определяет принцип правдоподобия:
«В рамках статистической модели вся информация, которую предоставляют данные относительно относительных достоинств двух гипотез, содержится в отношении правдоподобия этих гипотез». (Эдвардс, 1972, 1992, с. 30)
Так что теперь к ответам.
«Вся информация в образце», как вы цитируете, является просто неадекватным выражением соответствующей части принципа правдоподобия. Эдвардс говорит это гораздо лучше: модель имеет значение, а соответствующая информация - это информация, относящаяся к относительным достоинствам гипотез. Полезно отметить, что отношение правдоподобия имеет смысл только тогда, когда рассматриваемые гипотезы исходят из одной и той же статистической модели и являются взаимоисключающими. По сути, они должны быть точками на одной и той же функции правдоподобия, чтобы соотношение было полезным.
Как вы можете видеть, принцип правдоподобия связан с теоремой Байеса, но его можно доказать без ссылки на теорему Байеса. Да, p (x | y) является (пропорциональной) вероятностью, пока x является данными, а y является гипотезой (которая может быть просто предполагаемым значением параметра).
Принцип правдоподобия является спорным, поскольку его доказательство оспаривается. На мой взгляд опровержения неисправны, но тем не менее он является спорным. (На другом уровне можно сказать, что принцип правдоподобия является спорным, потому что он подразумевает, что методы для часто используемых методов вывода в некотором смысле ошибочны. Некоторым это не нравится.) Принцип правдоподобия доказан, но его сфера применения актуальность может быть более ограниченной, чем ее критики представляют.
Принцип правдоподобия важен для байесовских методов, потому что данные вводятся в уравнение Байеса через вероятности. Большинство байесовских методов соответствуют принципу правдоподобия, но не все. Некоторые люди, такие как Эдвардс и Ройалл, утверждают, что выводы могут быть сделаны на основе функций правдоподобия без использования теоремы Байеса, «чисто правдоподобного вывода». Это является спорным, а также. На самом деле, это, вероятно, более спорным, чем принцип правдоподобия, поскольку Bayesians, как правило, соглашаются с frequentists, что чистые методы правдоподобия неуместны. (Враг моего врага ...)
источник