Ковариационная матрица для гауссовского процесса и распределения Уишарта

Я читаю эту статью о обобщенных процессах Wishart (GWP). В статье вычисляются ковариации между различными случайными величинами (по гауссовскому процессу ) с использованием экспоненциальной ковариационной функции в квадрате, т. Е. . Затем говорится, что эта ковариационная матрица следует за GWP. $K(x,x') = \exp\left(-\frac{|(x-x')|^2}{2l^2}\right)$

Раньше я думал, что ковариационная матрица, вычисленная из линейной ковариационной функции ( ) $K(x,x') = x^Tx'$ , следует распределению Уишарта с соответствующими параметрами.

Мой вопрос заключается в том, как мы можем по-прежнему предполагать, что ковариация будет следовать распределению Уишарта с квадратной экспоненциальной функцией ковариации? Кроме того, в общем, что является необходимым условием для ковариационной функции для создания распределенной ковариационной матрицы Вишарта?

machine-learning normal-distribution covariance wishart nonparametric-bayes steadyfish
источник

Что смешивается, так это ковариационная спецификация в терминах окружающего пространства, в котором определяется гауссовский процесс, и операция, которая преобразует конечномерную гауссовскую случайную переменную для получения распределения Уишарта.

Если является мерной гауссовой случайной величиной (вектор-столбец) со средним значением 0 и ковариационной матрицей , то распределение является распределением Уишарта . Обратите внимание, что - матрица . Это общий результат о том, как квадратичная форма $\mathbf{X} \sim \mathcal{N}(0, \Sigma)$ $p$ $\Sigma$ $\mathbf{W} = \mathbf{X} \mathbf{X}^T$ $W_p(\Sigma, 1)$ $\mathbf{W}$ $p \times p$

x \mapsto x x^{T}

$\mathbf{x} \mapsto \mathbf{x} \mathbf{x}^T$ преобразует гауссово распределение в распределение Уишарта. Он справедлив для любого выбора положительно определенной ковариационной матрицы

. Если у вас есть iid наблюдения

то при

распределение

является

распределением желаний

. Разделив на

получим эмпирическую ковариационную матрицу

оценку

Σ

$\Sigma$

X_{1}, \dots, X_{n}

$\mathbf{X}_1, \ldots, \mathbf{X}_n$

W_{i} = X_{i} X_{i}^{T}

$\mathbf{W}_i = \mathbf{X}_i \mathbf{X}_i^T$

W_{1} + \dots + W_{n}

$\mathbf{W}_{1} + \ldots + \mathbf{W}_n$

W_{p} (Σ, n)

$W_p(\Sigma, n)$

n

$n$

-

$-$

Σ

$\Sigma$ ,

$\mathbb{R}$ $(X(x))_{x \in \mathbb{R}}$

X (x_{1}, \dots, x_{p}) := (X (x_{1}), \dots, X (x_{p}))^{T} \sim N (0, Σ (x_{1}, \dots, x_{p}))

$\mathbf{X}(x_1, \ldots, x_p) := (X(x_1), \ldots, X(x_p))^T \sim \mathcal{N}(0, \Sigma(x_1, \ldots, x_p))$

x_{1}, \dots, x_{p} \in R

$x_1, \ldots, x_p \in \mathbb{R}$

cov (X (x_{i}), X (x_{j})) = Σ (x_{1}, \dots, x_{p})_{i, j} = K (x_{i}, x_{j}) .

$\text{cov}(X(x_i), X(x_j)) = \Sigma(x_1, \ldots, x_p)_{i,j} = K(x_i, x_j).$

K

$K$

X (x_{1}, \dots, x_{p}) X (x_{1}, \dots, x_{p})^{T}

$\mathbf{X}(x_1, \ldots, x_p) \mathbf{X}(x_1, \ldots, x_p)^T$

W_{p} (Σ (x_{1}, \dots, x_{p}), 1)

$W_p(\Sigma(x_1, \ldots, x_p), 1)$

NRH
источник

Спасибо за ответ. У меня есть несколько вопросов, рег. ваш ответ - Когда вы говорите, что преобразование, которое преобразует гауссовский dist в Wishart dist, имеет место для любого выбора + ve определенной матрицы cov, какой выбор diff у нас есть для этой матрицы cov? Кроме того, просто для пояснения - для матрицы cov, определяемой функцией cov, i и j указывают элементы в окружающем пространстве гауссовского процесса (например, если это временной процесс, моменты времени t_1 и t_2)?

stablefish

i

$i$

j

$j$

x_{i}

$x_i$

x_{j}

$x_j$

Σ

$\Sigma$

-

$-$

Σ

$\Sigma$

Σ

$\Sigma$

x^{T} x

$x^{T}x$

@steadyfish, о, я вижу. На самом деле, я был неаккуратен с транспозициями и с тем, были ли векторы векторами строк или столбцов. Я уточнил это сейчас и добавил немного о связи между эмпирической ковариационной матрицей и теоретической ковариационной матрицей. Теоретическое не определено в терминах наблюдений.

NRH

Ковариационная матрица для гауссовского процесса и распределения Уишарта

Ответы: