Джеффрис априор для нескольких параметров

В некоторых случаях предварительная оценка Джеффриса для полной многомерной модели обычно считается неадекватной, например, в случае: (где , где и неизвестны), где предпочтительным является следующий априор (для полного предшествующего Джеффриса ):

y_{i} = μ + ε_{i},

$y_i=\mu + \varepsilon_i \, ,$

ε \sim N (0, σ^{2})

$\varepsilon \sim N(0,\sigma^2)$

μ

$\mu$

σ

$\sigma$

π (μ, σ) \propto σ^{- 2}

$\pi(\mu,\sigma)\propto \sigma^{-2}$

Где

представляет собой Джеффрис перед получен при сохранении

фиксированной (и аналогично для

). Этот априор совпадает с эталонным априором при обработке

в отдельных группах.

p (μ, σ) = π (μ) \cdot π (σ) \propto σ^{- 1},

$p(\mu,\sigma) = \pi(\mu) \cdot \pi(\sigma) \propto \sigma^{-1}\, ,$

π (μ)

$\pi(\mu)$

σ

$\sigma$

p (σ)

$p(\sigma)$

σ

$\sigma$

μ

$\mu$

Вопрос 1: Почему лечение их как в отдельных группах имеет больше смысла, чем обращение с ними в одной и той же группе (что приведет, если я прав (?), К предыдущему полноразмерному Джеффрису, см. [1])?

Затем рассмотрим следующую ситуацию: Где неизвестно,

y_{i} = g (x_{i}, θ) + ε_{i},

$y_i=g(x_i,\mathbf{\theta}) +\varepsilon_i\, ,$

θ \in R^{n}

$\theta \in \mathbb{R}^n$

является Unkown, и

является известной нелинейной функцией. В таком случае заманчиво и из моего опыта иногда полезно рассмотреть следующее разложение:

ε_{i} \sim N (0, σ^{2})

$\varepsilon_i \sim N(0,\sigma^2)$

σ

$\sigma$

g

$g$

Где

являются Джеффреис до для двух подмоделейкак в предыдущем примере шкала местонахождения.

p (σ, θ) = π (σ) π (θ),

$p(\sigma,\theta)=\pi(\sigma) \pi(\theta) \, ,$

π (σ)

$\pi(\sigma)$

π (θ)

$\pi(\theta)$

Вопрос 2: Можем ли мы что-нибудь сказать об оптимальности (с точки зрения теории информации) производного априорного ? $p(\sigma,\theta)$

[1] Из https://theses.lib.vt.edu/theses/available/etd-042299-095037/unrestricted/etd.pdf :

Наконец, отметим, что априор Джеффриса является частным случаем эталона априора. В частности, априор Джеффриса соответствует эталону априора, в котором все параметры модели рассматриваются в одной группе.

distributions bayesian estimation prior jeffreys-prior peuhp
источник

Я думаю, что вы имеете в виду многомерную модель, многомерная регрессия строго говоря зарезервирована для нескольких переменных в левой части.

mdewey

$\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}$ $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}^2$

Сиань
источник

Спасибо за ваш вклад. Тем не менее, на мой взгляд, ранее Jeffreys предлагает своего рода оптимальность в том смысле, что, по крайней мере, в 1d настройке они сводят к минимуму количество теоретической информации, которое может иметь смысл и обсуждаться (пожалуйста, дайте мне знать, если я ошибаюсь ). Моя точка зрения такова: можем ли мы написать аналогичный «критерий», предшествующая процедура Джеффриса удовлетворяет двум параметрам, приведенным в моем вопросе? Из цитаты, приведенной в моем вопросе, кажется, что да, и я бы с удовольствием обсудил значение выбора этого критерия вместо другого (с чисто ИТ-точки зрения :)).

peuhp

Джеффрис априор для нескольких параметров

Ответы: