Выбор между неинформативными бета-приорами

Я ищу неинформативные приоры для бета-дистрибуции для работы с биномиальным процессом (Hit / Miss). Сначала я подумал об использовании которые генерируют равномерный PDF, или Джеффри до . Но я на самом деле ищу априоры, которые оказывают минимальное влияние на последующие результаты, а затем я подумал об использовании неправильного априора до . Проблема в том, что мое апостериорное распределение работает, только если у меня есть хотя бы одно попадание и одно попадание. Чтобы преодолеть это, я подумал об использовании очень маленькой постоянной, как $\alpha=1, \beta=1$ $\alpha=0.5, \beta=0.5$ $\alpha=0, \beta=0$ , просто чтобы убедиться, что задние и $\alpha=0.0001, \beta=0.0001$ $\alpha$ $\beta$ будет . $>0$

Кто-нибудь знает, приемлем ли этот подход? Я вижу числовые эффекты изменения этих априорных, но кто-то может дать мне своего рода интерпретацию маленьких констант, таких как эти, как приоры?

bayesian prior beta-distribution uninformative-prior Матеуш
источник

Для больших выборок с большим количеством попаданий и промахов это не имеет большого значения. Для небольших образцов, особенно если нет хотя бы одного попадания и одного промаха, это имеет большое значение; даже размер вашей «очень маленькой константы» может оказать существенное влияние. Я хотел бы предложить ключ мысленный эксперимент для вас может быть какая кзади имеет смысл после того, как образец размером

: это может убедить вас , что - то вроде Jeffrey сек до разумна

1

$1$

Генри

И есть бумага, в которой Керман предлагает 1/3 и 1/3, б

Бьёрн

Что вы подразумеваете под «минимальным влиянием на последующие результаты»? По сравнению с чем?

Будет ли

Я улучшил форматирование и название вашего вопроса, не стесняйтесь отменить или изменить изменения.

Тим

Ответы:

Прежде всего, не существует такой вещи, как неинформативный априор . Ниже вы можете видеть апостериорные распределения, полученные в результате пяти разных «неинформативных» априоров (описанных ниже графика) с учетом разных данных. Как можно ясно увидеть, выбор «неинформативных» априоров повлиял на апостериорное распределение, особенно в тех случаях, когда сами данные не давали много информации .

$\alpha = \beta$ $\alpha \le 1, \beta \le 1$ $\alpha = \beta = 1$ $\alpha = \beta = 1/2$ $\alpha = \beta = 1/3$ $\alpha = \beta = 0$ ), или это приближение ( большую статью в Википедии ). $\alpha = \beta = \varepsilon$ $\varepsilon > 0$

$\alpha$ $\beta$ $y$ $n$ испытаниях

θ ∣ y \sim B (α + y, β + n - y)

$\theta \mid y \sim \mathcal{B}(\alpha + y, \beta + n - y)$

$\alpha,\beta$ $\alpha=\beta=1$ $n$ ).

На первый взгляд, предварительный Холдейн кажется наиболее «неинформативным», поскольку он приводит к последнему среднему значению, которое в точности равно оценке максимального правдоподобия.

\frac{α + y}{α + y + β + n - y} = y / n

$\frac{\alpha + y}{\alpha + y + \beta + n - y} = y / n$

$y=0$ $y=n$

Существует ряд аргументов за и против каждого из «неинформативных» априоров (см. Kerman, 2011; Tuyl et al, 2008). Например, как обсуждалось Tuyl et al,

$1$ $0$ $1$

С другой стороны, использование единообразных априорных значений для небольших наборов данных может быть очень влиятельным (подумайте об этом с точки зрения псевдосчета). Вы можете найти гораздо больше информации и обсуждения по этой теме в нескольких статьях и руководствах.

Извините, но не существует единственного «лучшего», «самого неинформативного» или «одного размера подходит всем». Каждый из них вносит некоторую информацию в модель.

Керман, J. (2011). Нейтральные неинформативные и информативные сопутствующие бета и гамма априорные распределения Электронный журнал статистики, 5, 1450-1470.

Туйл Ф., Герлах Р. и Менгерсен К. (2008). Сравнение Байеса-Лапласа, Джеффриса и других приоров. Американский статистик, 62 (1): 40-44.

Тим
источник