Центральная предельная теорема для цепей Маркова

10

Центральная предельная теорема (CLT) утверждает, что для Икс1,Икс2,... независимы и одинаково распределены (iid) с Е[Икся]знак равно0 и Var(Икся)< , сумма сходится к нормальному распределению при N :

Σязнак равно1NИксяN(0,N),

Предположим вместо этого, что Икс1,Икс2,... образуют цепь Маркова с конечным состоянием со стационарным распределением п с ожиданием 0 и ограниченной дисперсией. Есть ли простое расширение CLT для этого случая?

В статьях, которые я нашел на CLT для цепей Маркова, обычно рассматриваются гораздо более общие случаи. Я был бы очень благодарен за указатель на соответствующий общий результат и объяснение того, как он применяется.

tom4everitt
источник
1
В статье Лин и Тегмарка « Критическое поведение от Deep Dynamics» подробно рассказывается об «ограничениях» марковских процессов и анализа ... доступно здесь ... ai2-s2-pdfs.s3.amazonaws.com/5ba0/…
Майк Хантер,

Ответы:

10

Ответа Алексея Р. почти достаточно, но я добавлю еще несколько деталей. В « О центральной предельной теореме Маркова - Галин Л. Джонс» , если вы посмотрите на теорему 9, там сказано:

Если - эргодическая цепь Маркова Харриса со стационарным распределением , то CLT имеет место для если равномерно эргодичен и .ИксπеИксЕ[е2]<

Для конечных пространств состояний все неприводимые и апериодические цепи Маркова равномерно эргодичны. Доказательством этого является наличие значительного фона в теории цепей Маркова. Ссылка хорошо бы Page 32, в нижней части теоремы 18 здесь .

Следовательно, цепь Маркова CLT будет иметь место для любой функции , имеющей конечный второй момент. Форма, которую принимает CLT, описывается следующим образом.е

Пусть будет усредненной по времени оценкой , тогда, как указывает Алекс Р., при , е¯NЕπ[е]N

е¯Nзнак равно1NΣязнак равно1Nе(Икся)в видеЕπ[е],

CLT цепи Маркова имеет вид

n(f¯nEπ[f])dN(0,σ2),

где

σ2знак равноVarπ(е(Икс1))Ожидаемый срок+2ΣКзнак равно1Covπ(е(Икс1),е(Икс1+К))Срок за счет цепи Маркова,

Вывод термина можно найти на странице 8 и странице 9 примечаний Чарльза Гейера MCMC здесь.σ2

Greenparker
источник
Спасибо, это очень ясно! Есть ли простой аргумент, почему конечные состояния, неприводимые и апериодические цепи Маркова равномерно эргодичны? (не то чтобы я тебе не доверял ^^).
Tom4everitt
@ tom4everitt К сожалению, определение «легкий» субъективно. Если вы знакомы с условиями дрейфа и миноризации цепей Маркова, то аргумент прост. Если нет, то это будет длинный аргумент. Я постараюсь найти ссылку вместо этого. Может занять некоторое время.
Greenparker
Это было бы круто. Если вы не найдете ничего, пара предложений, намекающих на основные шаги, все равно будет полезна.
Tom4everitt
@ tom4everitt Добавлена ​​ссылка на ответ. Надеюсь, этого достаточно.
Greenparker
@ Greenparker Могу ли я попросить вас помочь понять, как происходит отклонение в вашем ответе? Я просмотрел ссылку в вашем ответе, но не нашел там никакого вывода. У меня есть источник MC для MCsist, но я не до конца понимаю, как он там получен. То есть, как получается термин ? Спасибо! σ2
LeastSquaresWonderer
7

«Обычный» результат для цепей Маркова - эргодическая теорема Биркгофа, которая гласит, что

1NΣязнак равно1Nе(Икся)Еπ[е],

где - стационарное распределение, а f удовлетворяет E | f ( X 1 ) | < , и сходимость почти наверняка.πеЕ|е(Икс1)|<

К сожалению, колебания этой конвергенции, как правило, довольно сложны. Это происходит главным образом из-за чрезвычайной сложности определения полных вариационных границ того, насколько быстро сходится к стационарному распределению π . Известны случаи, когда флуктуации аналогичны CLT, и вы можете найти некоторые условия на дрейфе, которые подтверждают аналогию: о центральной предельной теореме цепи Маркова - Галин Л. Джонс (см. Теорему 1).Иксяπ

п(12)знак равно1п(21)знак равно0

Алекс Р.
источник
2
Я не думаю, что он спрашивает о почти уверенной конвергенции. Я думаю, что он хочет своего рода «перевод» некоторых CLT в общих пространствах: вероятно, объяснение того, что означают требуемые предположения в конкретном контексте цепей пространства конечных состояний
Тейлор
Спасибо. Будет ли нормальная, хорошая конечная цепь Маркова с конечным состоянием тривиально удовлетворять условию дрейфа? Я даже был бы счастлив, зная это только для цепочки из двух государств, но для меня далеко не очевидно, как это доказать.
Tom4everitt