Как вы рассчитываете стандартные ошибки для преобразования MLE?

9

Мне нужно сделать вывод о положительном параметре . Чтобы подчеркнуть положительность, я репараметризовал . Используя процедуру MLE, я вычислил точечную оценку и нашел для . Свойство инвариантности MLE напрямую дает мне точечную оценку для p , но я не уверен, как вычислить se для p . Заранее благодарен за любое предложение или ссылку.p = exp ( q ) q p pппзнак равноехр(Q)Qпп

завивать волосы щипцами
источник
Разве вы не можете использовать ту же процедуру MLE для вычисления точечной оценки и непосредственно для п ?
whuber

Ответы:

20

Для этой цели используется метод Delta . При некоторых стандартных предположениях регулярности мы знаем, что MLE, θ^ для θ приблизительно (то есть асимптотически) распределяется как

θ^~N(θ,я-1(θ))

где - это обратная информация Фишера для всей выборки, оцененная в а обозначает нормальное распределение со средним и дисперсия . Функциональная инвариантность ОМП говорит о том , что ОМП , где некоторая известная функция, является (как вы указали) и имеет приблизительное распределениеθN(М, сг 2 )ц сг 2 г(θ)гг( θ )я-1(θ)θN(μ,σ2)μσ2г(θ)гг(θ^)

г(θ^)~N(г(θ),я-1(θ)[г'(θ)]2)

где вы можете подключить непротиворечивые оценки для неизвестных величин (то есть подключить где появляется в дисперсии). Я бы предположил, что ваши стандартные ошибки основаны на информации Фишера (так как у вас есть MLE). Обозначим эту стандартную ошибку через . Тогда стандартная ошибка , как в вашем примере, ; & thetassе & thetas ;θ^θsеθ^

s2е2θ^

Возможно, я интерпретирую вас задом наперед, и на самом деле у вас есть дисперсия MLE of и вам нужна дисперсия MLE of в этом случае стандарт будетlog ( θ )θжурнал(θ)

s2/θ^2
макрос
источник
1
Еще одно замечание: существуют также подходящие многомерные расширения, в которых производные заменяются градиентами, а умножения должны быть умножениями матриц, поэтому при выяснении направления транспонирования возникает немного больше головной боли.
StasK
1
Спасибо за указание на это StasK. Я полагаю, что в многомерном случае асимптотическая ковариация равнаг ( θ ) 'г(θ^)г(θ)'я(θ)-1г(θ)
Макрос
(+1) Я добавил ссылку на предположения о регулярности (и некоторые другие вещи), поскольку неясно, удовлетворяются ли они в задаче ОП. Я мог бы сказать, что является асимптотически нормальным и не приблизительно нормальным, поскольку скорость сходимости может иногда быть медленной. θ^
MånsT
Спасибо @ MånsT, я также уточнил, что имел в виду асимптотически, когда говорил приблизительно :)
Макрос
6

Макро дал правильный ответ о том, как преобразовать стандартные ошибки с помощью дельта-метода. Несмотря на то, что ОП специально просили стандартные ошибки, я подозреваю, что цель состоит в том, чтобы получить доверительные интервалы для . Помимо вычисления оценочных стандартных ошибок вы можете напрямую преобразовать доверительный интервал в параметризации в доверительный интервал в -parametrization. Это совершенно верно, и это может быть даже лучшей идеей в зависимости от того, насколько хорошо нормальная аппроксимация, используемая для обоснования доверительного интервала на основе стандартных ошибок, работает в параметризации сравнению ср [ д 1 , д 2 ] д [ ехр ( д 1 ) , ехр ( д 2 ) ] р д рпп^[Q1,Q2]Q[ехр(Q1),ехр(Q2)]пQп-parametrization. Кроме того, непосредственно преобразованный доверительный интервал будет удовлетворять ограничению положительности.

NRH
источник