Случайная прогулка Метрополис-Хаситингс с симметричным предложением
обладает свойством вероятности принятия
не зависит от предложения .
Означает ли это, что я могу изменить как функцию предыдущей производительности цепочки, не влияя на марковитость цепочки?
Особый интерес для меня представляет корректировка масштабирования нормального предложения в зависимости от уровня принятия.
Также был бы очень признателен, если бы кто-то мог указать на алгоритмы адаптации, используемые на практике для такого типа проблем.
Большое спасибо.
[edit: Начиная со ссылок, данных Роберци и Воком, я нашел следующие ссылки на адаптивные алгоритмы MH:
Андрие, Кристоф и Эрик Мулен. 2006.
О свойствах эргодичности некоторых адаптивных алгоритмов MCMC. Анналы прикладной вероятности 16, нет. 3: 1462-1505. http://www.jstor.org/stable/25442804 .
Андрие, Кристоф и Йоханнес Томс.
2008. Учебное пособие по адаптивной MCMC. Статистика и вычисления 18, нет. 4 (12): 343-373. DOI: 10.1007 / s11222-008-9110-у. http://www.springerlink.com/content/979087678366r78v/ .
Atchadé, Y., G. Fort, E. Moulines, P. Priouret. 2009.
Адаптивная цепь Маркова Монте-Карло: теория и методы. Препринт.
Ачаде, Ив. 2010.
Предельные теоремы для некоторых адаптивных алгоритмов MCMC с субгеометрическими ядрами. Бернулли 16, нет. 1 (февраль): 116-154. DOI: 10.3150 / 09-BEJ199. http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record .
Каппе О., С. Дж. Годсилл и Э. Мулен. 2007.
Обзор существующих методов и последних достижений в последовательном Монте-Карло. Труды IEEE 95, нет. 5: 899-924.
Джордани, Паоло. 2010.
Адаптивный независимый мегаполис – Гастингс по быстрой оценке смесей нормалей. Журнал вычислительной и графической статистики 19, нет. 2 (6): 243-259. DOI: 10,1198 / jcgs.2009.07174. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174 .
Латушинский, Кшиштоф, Гарет О Робертс и Джеффри С. Розенталь. 2011.
Адаптивные пробоотборники Гиббса и родственные методы MCMC. 1101.5838 (30 января). http://arxiv.org/abs/1101.5838 .
Pasarica, C. и A. Gelman. 2009.
Адаптивное масштабирование алгоритма Метрополиса с использованием ожидаемого квадрата пройденного расстояния. Statistica Sinica.
Робертс, Гарет О. 2009.
Примеры адаптивного MCMC. Журнал вычислительной и графической статистики 18, нет. 2 (6): 349-367. DOI: 10,1198 / jcgs.2009.06134. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134 .
]
источник
Ответы:
Я думаю, что эта статья от Heikki Haario et al. даст вам ответ, который вам нужен. На маркованность цепочки влияет адаптация плотности предложения, потому что тогда новое предложенное значение зависит не только от предыдущего, но и от всей цепочки. Но кажется, что последовательность все еще имеет хорошие свойства, если проявлять большую осторожность.
источник
Вы можете улучшить коэффициент принятия, используя отложенное отклонение, как описано в Tierney, Mira (1999) . Он основан на второй функции предложения и второй вероятности принятия , которая гарантирует, что цепь Маркова все еще обратима с тем же инвариантным распределением: нужно быть осторожным, поскольку « легко создать адаптивные методы, которые могут показаться работающими, но на самом деле образец из неправильного распределения ".
источник
Подходы, предложенные пользователями wok и robertsy, охватывают наиболее часто цитируемые примеры того, что вы ищете, о которых я знаю. Чтобы расширить эти ответы, Хаарио и Мира в 2006 году написали статью, в которой сочетаются два подхода - подход, который они называют DRAM (адаптивный метрополис с отложенным отклонением) .
Андриу хорошо рассматривает различные подходы адаптивного MCMC (pdf), который охватывает Haario 2001, но также обсуждает различные альтернативы, которые были предложены в последние годы.
источник
Это немного постыдный плагин моей публикации, но мы делаем именно это в этой работе ( arxiv ). Среди прочего, мы предлагаем адаптировать дисперсию экспоненциального распределения для улучшения принятия (шаг S3.2 в алгоритме в статье).
Мы не используем информацию о скорости приемки, но получаем прием, не зависящий от интересующей нас величины (эквивалент энергии спиновой системы, справа внизу на рис. 4).
источник