Почему тестовая статистика теста отношения правдоподобия распределяется по хи-квадрату?
distributions
chi-squared
likelihood-ratio
Доктор Библброкс
источник
источник
Ответы:
Как уже упоминалось @Nick, это является следствием теоремы Уилкса . Но обратите внимание, что тестовая статистика асимптотически -распределена, а не χ 2 -распределена.χ2 χ2
Я очень впечатлен этой теоремой, потому что она имеет место в очень широком контексте. Рассмотрим статистическую модель с вероятностью где y - вектор наблюдений n независимых реплицированных наблюдений из распределения с параметром θ, принадлежащего подмногообразию B 1 в R d с размерностью dim ( B 1 ) = s . Пусть B 0 ⊂ B 1 - подмногообразие с размерностью dim ( B 0l(θ∣y) y n θ B1 Rd dim(B1)=s B0⊂B1 . Представьте, что вы заинтересованы в тестировании H 0 : { θ ∈ B 0 } .dim(B0)=m H0:{θ∈B0}
Отношение правдоподобия равно Определитьотклонениеd(y)=2log(lr(y)). ТогдаУилкса теоремаутверждаетчто при обычных предположениях регулярности,d(у)асимптотическийχ2-distributed сs-мстепени свободы приH0верен.
Это доказано в оригинальной статье Вилка, упомянутой @Nick. Я думаю, что этот документ не так легко прочитать. Уилкс опубликовал книгу позже, возможно, с самым простым изложением своей теоремы. Краткое эвристическое доказательство дано в превосходной книге Уильямса .
источник
Я второй суровый комментарий Ника Саббе, и мой короткий ответ: это не так . Я имею в виду, это только в нормальной линейной модели. Для абсолютно любых других обстоятельств точное распределение не является . Во многих ситуациях можно надеяться, что условия теоремы Уилкса будут выполнены, и тогда асимптотически статистика теста логарифмического отношения правдоподобия сходится по распределению к χ 2 . Ограничения и нарушения условий теоремы Уилкса слишком многочисленны, чтобы их игнорировать.χ2 χ2
Для обзора этих и подобных эзотерических проблем в выводе вероятности см. Смит 1989 .
источник