Является ли расплывчатый априор таким же, как неинформативный априор?

Это вопрос о терминологии. Является ли «неопределенный априор» таким же, как неинформативный априор, или есть какая-то разница между ними? У меня сложилось впечатление, что они одинаковы (глядя нечетко и неинформативно), но я не уверен.

Гельман и соавт. (2003) говорят:

издавна существовала потребность в предварительных распределениях, которые могут гарантировать минимальную роль в последнем распределении. Такие распределения иногда называют «ссылочными априорными распределениями», а априорная плотность описывается как расплывчатая, плоская или неинформативная . [Выделение из исходного текста]

Основываясь на моем прочтении дискуссии о Джеффрисе, предшествующей в Gelman et al. (2003, с.62ff, нет единого мнения о существовании действительно неинформативного априора, и что достаточно расплывчатых / плоских / диффузных априорных значений достаточно.

Некоторые из пунктов, которые они делают:

1. Любой предварительный включает в себя информацию, в том числе априорные, которые утверждают, что информация неизвестна
   • Например, если мы знаем, что ничего не знаем о рассматриваемом параметре, то мы знаем что-то об этом.
2. В большинстве прикладных контекстов нет явного преимущества перед действительно неинформативным априором, когда достаточно достаточно неопределенных априорных значений, и во многих случаях есть преимущества - например, поиск правильного априора - по сравнению с использованием нечеткой параметризации сопряженного априора.
3. Принцип Джеффриса может быть полезен для построения априоров, минимизирующих информационное содержание Фишера в одномерных моделях, но аналога для многомерного случая не существует.
4. При сравнении моделей приоритет Джеффриса будет зависеть от распределения вероятности, поэтому приоры также должны будут измениться.
5. как правило, было много споров о том, существует ли вообще неинформативный априор (из-за 1, но также см. обсуждение и ссылки на стр.66 в Gelman et al. для истории этих дебатов).

Обратите внимание, что это вики сообщества. Основная теория находится в пределах моего понимания, и я был бы признателен за вклад в этот ответ.

Гельман и соавт. 2003 Байесовский анализ данных, Чепмен и Холл / CRC

Определенно нет, хотя они часто используются взаимозаменяемо. Неопределенный априор (относительно неинформированный, не особо отдавая предпочтение некоторым значениям по сравнению с другими) по параметру может на самом деле вызвать очень информативный априор при некотором другом преобразовании . Это, по крайней мере, часть мотивации априора Джеффриса, который изначально был создан как можно более неинформативным.$\theta$$f(\theta)$

Неопределенные приоры могут также сделать некоторые довольно жалкие вещи с вашей моделью. Классический пример - использование качестве для компонентов дисперсии в иерархической модели.$\mathrm{InverseGamma}(\epsilon, \epsilon)$$\epsilon\rightarrow 0$

Неправильное ограничение предшествующего дает неправильный апостериор в этом случае. Популярная альтернатива заключалась в том, чтобы считать действительно маленьким, в результате чего априор выглядит почти одинаково на . Но это также приводит к тому, что апостериор почти неподходящий, и подгонка модели и выводы сделаны. См. Распределение Gelman's Prior для параметров дисперсии в иерархических моделях для полного изложения.$\epsilon$$\mathbb{R}^+$

Изменить: @csgillespie (правильно!) Указывает, что я не полностью ответил на ваш вопрос. На мой взгляд, неинформативный априор является неопределенным в том смысле, что он не особенно благоприятствует одной области пространства параметров над другой, но при этом он не должен вызывать информативные априорные значения для других параметров. Таким образом, неинформативный априор является расплывчатым, но расплывчатый априор не обязательно неинформативен. Одним из примеров, где это вступает в игру, является выбор байесовской переменной; «расплывчатый» априор по вероятностям включения переменных может фактически вызвать довольно информативный априор по общему количеству переменных, включенных в модель!

Мне кажется, что поиск поистине неинформативных приоров является кихотическим (хотя многие с этим не согласятся); лучше использовать так называемые «слабо» информативные априорные значения (которые, я полагаю, обычно в некотором смысле расплывчаты). Действительно, как часто мы ничего не знаем о рассматриваемом параметре?

Ламберт и др. (2005) поднимают вопрос «Насколько расплывчато расплывчато? Имитационное исследование влияния использования расплывчатых предыдущих дистрибутивов в MCMC с использованием WinBUGS ». Они пишут: «Мы не выступаем за использование термина« неинформативное предварительное распространение », так как считаем, что все первоисточники предоставляют некоторую информацию». Я склонен согласиться, но я определенно не эксперт в байесовской статистике.

Я подозреваю, что «неопределенный априор» используется для обозначения априора, который, как известно, кодирует некоторое небольшое, но ненулевое количество знаний относительно истинного значения параметра, тогда как «неинформативный априор» будет использоваться для обозначения полного незнания. относительно значения этого параметра. Возможно, это будет использовано, чтобы показать, что анализ не был полностью объективным.

Например, очень широкий гауссов может быть неопределенным априором для параметра, где неинформативный априор будет равномерным. Гауссиан был бы очень близок по шкале интереса, но, тем не менее, предпочел бы одно конкретное значение немного больше, чем любое другое (но это может сделать проблему более математически понятной).

Неинформативные приоры имеют разные формы. Эти формы включают смутные априорные и неправильные априорные. Так что расплывчатый априор является частью неинформативных априоров.