Большинство асимптотических результатов в статистике доказывают, что при оценка (такая как MLE) сходится к нормальному распределению, основанному на разложении функции правдоподобия Тейлора второго порядка. Я полагаю, что в байесовской литературе есть аналогичный результат, «Байесовская центральная предельная теорема», которая показывает, что апостериорный апостериор сходится к нормали при n → ∞
Мой вопрос - сходится ли распределение к чему-то «до того», как оно станет нормальным, основываясь на третьем члене ряда Тейлора? Или это вообще невозможно сделать?
Ответы:
Вы ищете серию Edgeworth, не так ли?
http://en.wikipedia.org/wiki/Edgeworth_series#Edgeworth_series
(обратите внимание, что Эджуорт умер в 1926 году, должно быть, в самых известных статистиков?)
источник
Последовательность не может «сходиться» к одному, а затем к другому. Члены высшего порядка в асимптотическом разложении будут стремиться к нулю. Они говорят вам, насколько они близки к нулю для любого заданного значения .n
Для центральной предельной теоремы (в качестве примера) подходящим является расширение логарифма характеристической функции: производящей функции кумулянта (cgf). Стандартизация распределений фиксирует нулевой, первый и второй члены cgf. Остальные члены, коэффициенты которых являются кумулянтами , зависят от упорядоченным образом. Стандартизации , что происходит в ЦПТ (деления суммы п случайных величин чем - то , пропорциональной п 1 / 2 --without , который не будет происходить сходимость) приводит к тому , м е кумулянт - которые в конечном счете , зависит от т - й минуты - к разделить на ( пn n n1/2 mth mth , но в то же самое времяпотому что мы суммированиептермины, чистый результатом является точто м - й срока порядка пропорциональнап / п м / 2 = п - ( т - 2 ) / 2 . Таким образом, третий кумулянт стандартизированной суммы пропорционален1 / п 1 / 2 , четвертый кумулянт пропорциональна1 / п(n1/2)m=nm/2 n mth n/nm/2=n−(m−2)/2 1/n1/2 1/n , и так далее. Это члены высшего порядка. (Подробности см. В этой статье Ювала Фильмуса, например.)
источник
Вот попытка ответить на ваш проницательный вопрос. Я видел включение 3-го члена ряда Тейлора для увеличения скорости сходимости ряда к истинному распределению. Тем не менее, я не видел (в своем ограниченном опыте) использование третьего и более высоких моментов.
Как указал Джон Д. Кук в своих блогах ( здесь и здесь ), не было проделано большой работы в этом направлении, кроме теоремы Берри-Эссеена . Мое предположение было бы (из наблюдения в блоге об ошибке аппроксимации, ограниченнойN1 / 2 ), поскольку асимптотическая нормальность mle гарантируется при скорости схода N1 / 2 (N (размер выборки), учитывая более высокие моменты, результат нормальности не улучшится.
Поэтому, думаю, ответ на ваш вопрос должен быть нет . Асимптотическое распределение сходится к нормальному дист. (По CLT, в условиях регулярности CLT Линдберга). Однако использование членов более высокого порядка может увеличить скорость сходимости к асимптотическому распределению.
источник
Определенно не моя область, но я уверен, что асимптотики третьего и высшего порядка существуют. Это какая-то помощь?
Роберт Л. Страудерман. Асимптотическая аппроксимация высшего порядка: Laplace, Saddlepoint и смежные методы Журнал Американской статистической ассоциации Vol. 95, No. 452 (Dec., 2000), pp. 1358-1364.
источник