Информация Фишера в иерархической модели

Учитывая такую иерархическую модель, и, , где является нормальным распределением. Есть ли способ получить точное выражение для информации Фишера о предельном распределении учетом . То есть, что такое информация Фишера:

X \sim N (μ, 1),

$X \sim {\mathcal N}(\mu,1),$

μ \sim L a p l a c e (0, c)

$\mu \sim {\rm Laplace}(0, c)$

N (\cdot, \cdot)

$\mathcal{N}(\cdot,\cdot)$

X

$X$

c

$c$

Я могу получить выражение для предельного распределения

учетом

, но дифференцирование по

и затем получение ожиданий кажется очень трудным. Я что-то упускаю из виду? Любая помощь будет оценена.

p (x | c) = \int p (x | μ) p (μ | c) d μ

$p(x | c) = \int p(x|\mu) p(\mu|c) d\mu$

X

$X$

c

$c$

c

$c$

multilevel-analysis information fisher-information emakalic
источник

Я сам попробовал, но это не в моих силах. Абсолютные функции разрушают все! Вы в основном застряли с численными методами.

вероятностная

μ \geq 0

$\mu \ge 0$

μ < 0

$\mu \lt 0$

x

$x$

e x p (- x^{2})

$exp(-x^2)$

X

$X$

Нижняя граница для информации Фишера в этом случае составляет

1 / (1 + 2 c^{2})

$1/(1+2c^2)$

1 + 1 / c^{2}

$1 + 1/c^2$

В то время как аналитическое решение было бы проблемой с точки зрения способности человека к обучению (вне математической дисциплины), существует ли восприимчивость к приближенному вычислительному решению? Можно сделать стохастическое моделирование, а затем посмотреть на приближения для подгонки.

EngrStudent - Восстановить Монику

Ответы:

Для информации Фишера для предоставленной вами иерархической модели не существует аналитического выражения в замкнутой форме. На практике информация Фишера может быть вычислена аналитически только для экспоненциальных семейств распределений. Для экспоненциальных семейств логарифмическое правдоподобие является линейным в достаточной статистике, и достаточная статистика имеет известные ожидания. Для других дистрибутивов логарифмическая вероятность не упрощается таким образом. Ни распределение Лапласа, ни иерархическая модель не являются экспоненциальными семейными распределениями, поэтому аналитическое решение будет невозможно.

Гордон Смит
источник

Два из нормального и Лапласа из экспоненциального семейства. Если вы можете записать распределение в экспоненциальной форме, то информационная матрица Фишера является вторым градиентом логарифмического нормализатора экспоненциального семейства.

A.Yazdiha
источник

\frac{1}{2} \exp (- | x - μ |)

$\frac12 \exp(-|x-\mu|)$