Диагностика сходимости Гельмана и Рубина, как обобщить работу с векторами?

Диагностика Гельмана и Рубина используется для проверки сходимости нескольких параллельных цепочек mcmc. Он сравнивает дисперсию внутри цепочки с дисперсией между цепями, описание приведено ниже:

Шаги (для каждого параметра):

1. Запустите m ≥ 2 цепочки длиной 2n из перераспределенных начальных значений.
2. Откажитесь от первых n розыгрышей в каждой цепочке.
3. Рассчитайте дисперсию внутри цепи и между цепями.
4. Рассчитайте оценочную дисперсию параметра как взвешенную сумму дисперсии внутри цепи и между цепями.
5. Рассчитайте потенциальный коэффициент уменьшения масштаба.
6. Пункт списка

Я хочу использовать эту статистику, но переменные, с которыми я хочу использовать это случайные векторы.

Имеет ли смысл в этом случае брать среднее значение ковариационных матриц?

Рекомендация: просто рассчитайте PSRF отдельно для каждого скалярного компонента

Оригинальная статья Gelman & Rubin [1], а также учебник по анализу байесовских данных Gelman et al. [2] рекомендует рассчитывать потенциальный коэффициент уменьшения масштаба (PSRF) отдельно для каждого интересующего скалярного параметра. Чтобы вывести сходимость, требуется, чтобы все PSRF были близки к 1. Неважно, что ваши параметры интерпретируются как случайные векторы, их компоненты являются скалярами, для которых вы можете вычислять PSRF.

Брукс и Гельман [3] предложили многовариантное расширение PSRF, которое я рассмотрю в следующем разделе этого ответа. Однако, чтобы процитировать Gelman & Shirley [4]:

[...] эти методы могут иногда представлять избыточное количество: отдельные параметры могут быть хорошо оценены, даже если приблизительная сходимость моделирования многомерного распределения может занять очень много времени.

Альтернатива: многомерное расширение Брукса и Гельмана

$W$$B$

$$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$$ $n$$\hat{V},W$ $$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$$ $m$$\lambda_1$$W^{-1}\hat{V}/n$$\lambda_1\rightarrow 0$$n$$\hat{R}$

Ссылки

[1] Гельман, Эндрю и Дональд Б. Рубин. «Вывод из итеративного моделирования с использованием нескольких последовательностей». Статистическая наука (1992): 457-472.

[2] Gelman, Andrew, et al. Байесовский анализ данных. CRC press, 2013.

[3] Брукс, Стивен П. и Эндрю Гельман. «Общие методы контроля сходимости итерационного моделирования». Журнал вычислительной и графической статистики 7.4 (1998): 434-455.

[4] Гельман, Эндрю и Кеннет Ширли. «Вывод из моделирования и мониторинга конвергенции». (Глава 6 в Brooks, Steve, et al., Eds. Handbook of Markov Chain Monte Carlo. CRC Press, 2011.)

Все статьи, кроме учебника [2], доступны на веб-сайте Эндрю Гельмана Эндрю Гельман .