В книге Gelman & Hill (2007) (Анализ данных с использованием регрессионных и многоуровневых / иерархических моделей) авторы утверждают, что включение избыточных средних параметров может помочь ускорить MCMC.
Данный пример - это не вложенная модель "симулятора полета" (уравнение 13.9):
Они рекомендуют репараметризацию, добавив средние параметры и следующим образом:μ δ
Единственное оправдание заключается в том, что (стр. 420):
Моделирование может застрять в конфигурации, где весь вектор (или ) далек от нуля (даже если им назначено распределение со средним 0). В конечном счете, симуляции будут сходиться к правильному распределению, но мы не хотим ждать.δ
Как избыточные средние параметры помогают с этой проблемой?
Мне кажется, что модель без вложенности является медленной в основном из-за того, что и имеют отрицательную корреляцию. (Действительно, если один повышается, другой должен понижаться, учитывая, что их сумма «фиксирована» данными). Помогают ли избыточные средние параметры уменьшить корреляцию между и или чем-то еще полностью?δ γ δ
источник
Ответы:
Следует избегать корреляции между и и .γ j δ kμ γj δk
При замене и в вычислительной модели альтернативными параметрами, вокруг корреляция уменьшается.δ k μγj δk μ
См. Очень четкое описание в разделе 25.1 «Что такое иерархическое центрирование?» в (свободно доступной) книге Уильяма Дж. Брауна «Оценка MCMC в MLwiN» и других. http://www.bristol.ac.uk/cmm/software/mlwin/download/manuals.html
источник