Каким должен быть неинформативный априор для склона при выполнении линейной регрессии?

При выполнении байесовской линейной регрессии необходимо назначить априор для наклона и точки пересечения . Поскольку является параметром местоположения, имеет смысл назначить унифицированный априор; однако, мне кажется, что сродни параметру масштаба, и кажется неестественным назначать униформу до него.$a$$b$$b$$a$

С другой стороны, не совсем правильно назначать обычный неинформативный арифметический арифметический априор ( ) для наклона линейной регрессии. С одной стороны, это может быть отрицательным. Но я не понимаю, что еще это может быть.$1/a$

Так что же такое «правильный» неинформативный априор для наклона байесовской линейной регрессии? (Любые ссылки будут оценены.)

Из Байесовского анализа данных 3-е изд., С. 355:

Стандартное неинформативное предварительное распространение

В модели нормальной регрессии удобное неинформативное априорное распределение равномерно по или, что эквивалентно, по$(\beta, \log \sigma)$

$$p(\beta,\sigma^2|X) \propto\sigma^{-2}$$

( относится к регрессорам.) Книга содержит полезное дальнейшее обсуждение, выходящее за рамки этого вопроса: когда этот предварительный отчет полезен, когда другие лучше подходят, его апостериорный, и сравнение с классическими оценками.$X$

Байесовцы обычно выбирают приоры, которые облегчают их математически сложные жизни. Это означает гауссовы априоры, если модель не запрещает это. Помните, что в вашей ситуации вам необходим двумерный критерий, так как вы должны смоделировать корреляцию между уклоном и местоположением, а также их предельное поведение. Многовариантная норма - это твой билет.

Гауссовский априор по параметрам хорошо согласуется с (несомненно) гауссовой погрешностью измерения, которую уже имеет ваша регрессионная модель.

Кстати, я не связываю уклоны с параметрами масштаба, поскольку уклоны могут быть отрицательными, а параметры масштаба - нет.

Теперь гауссовский дистрибутив не является неинформативным априорным, но если у вас действительно нет никакой предварительной информации, возможно, вам следует часто ходить. Или используйте гауссиан с очень большой дисперсией.

Я не знаю современной ссылки на байесовский вывод. Рискуя использовать базуку для отстрела кролика, вы можете найти Расмуссена и Уильямса, которые доступны онлайн . Первый раздел главы 2 проходит байесовскую регрессию в некоторых деталях.

$\tan^{-1}\left(a\right)$$b\cos\theta$$\theta$