Каковы условия регулярности для теста отношения правдоподобия?

12

Может ли кто-нибудь сказать мне, каковы условия регулярности для асимптотического распределения теста отношения правдоподобия?

Куда бы я ни посмотрел, везде написано «В условиях регулярности» или «В вероятностных закономерностях». Какие именно условия? Что существуют первая и вторая логарифмические производные правдоподобия, а информационная матрица не равна нулю? Или что-то еще целиком?

Kingstat
источник

Ответы:

15

Требуемые условия регулярности перечислены в большинстве промежуточных учебников и не отличаются от таковых в mle. Следующие из них относятся к случаю с одним параметром, но их расширение до многопараметрического варианта является простым.

Условие 1 : PDF-файлы различны, то естьθθf(xi;θ)f(xi;θ)

Обратите внимание, что это условие по существу утверждает, что параметр идентифицирует PDF.

Условие 2: PDF-файлы имеют общую поддержку для всехθ

Это означает, что поддержка не зависит отθ

Условие 3 : точка , реальный параметр, который является внутренней точкой в ​​некотором наборе Ωθ0Ω

Последнее касается возможности появления в конечных точках интервала.θ

Эти три в совокупности гарантируют, что вероятность максимизируется при истинном параметре а затем, что mle который решает уравнениеθθ0θ^

l(θ)θ=0

согласуется.

Условие 4 : pdf дважды дифференцируется как функция отθf(x;θ)θ

Условие 5 : интеграл можно дважды дифференцировать под знаком интеграла как функцию отthetas ;f(x;θ) dxθ

Нам нужны последние два, чтобы получить информацию о Фишере, которая играет центральную роль в теории сходимости mle.

Для некоторых авторов этого достаточно, но если мы хотим быть тщательными, нам дополнительно необходимо заключительное условие, которое обеспечивает асимптотическую нормальность mle.

Условие 6 : pdf дифференцируется в три раза как функция от . Кроме того, для всех существуют константа и функция такие чтоf(x;θ)θθΩcM(x)

|3logf(x;θ)θ3|M(x)

с для всех и всех в поддержкеEθ0[M(X)]<|θθ0|<cxX

По существу, последнее условие позволяет нам сделать вывод, что остаток от разложения Тейлора второго порядка относительно ограничен по вероятности и, таким образом, не создает проблемы асимптотически.θ0

Это то, что вы имели в виду?

JohnK
источник
Спасибо. Но вы уверены, что условия регулярности, связанные с доказательством того, что -2log (lambda) следует за квадратом хи с df 1, одинаковы?
Кингстат
1
@ Кингстат Да. Эти условия взяты из «Введение в математическую статистику» Хогга и Крейга и гарантируют, что в это , θ = θ 0 - 2 log Λ D χ 2 ( 1 )H0θ=θ02logΛDχ2(1)
JohnK
Не могли бы вы также сказать мне, как для плотности N (θ, 1) критерий Рао по шкале эквивалентен критерию UMPU?
Кингстат
@ Kingstat Что означает UMPU?
JohnK
Равномерно самый мощный, непредвзятый.
Кингстат