Наличие сопряженного априора: глубокая собственность или математическая случайность?

Некоторые дистрибутивы имеют сопряженные приоры, а некоторые нет. Это различие просто случайность? То есть вы занимаетесь математикой, и она работает так или иначе, но на самом деле она не говорит вам ничего важного о распределении, кроме самого факта?

Или наличие или отсутствие сопряженного априора отражает более глубокое свойство распределения? Распространяются ли в дистрибутивах с сопряженными априорами какое-либо другое интересное свойство или свойства, которых нет в других дистрибутивах, что приводит к тому, что эти, а не другие, имеют предшествующее сопряжение?

Это не случайно. Здесь вы найдете краткий и очень хороший обзор сопряженных приоров. Конкретно, в нем упоминается, что если для заданной функции правдоподобия существует набор достаточных статистик фиксированной размерности, то для него можно построить сопряженное ранее. Наличие набора достаточных статистических данных означает, что вы можете факторизовать вероятность в форме, которая позволит вам оценить параметры эффективным вычислительным способом.

Кроме того, имея сопряженные априорные значения, это не только вычислительно удобно. Он также обеспечивает сглаживание и позволяет работать с очень маленькими выборками или без предыдущих выборок, что необходимо для таких проблем, как принятие решений, в случаях, когда у вас очень мало доказательств.

Я очень плохо знаком с байесовской статистикой, но мне кажется, что все эти распределения (и если не все, то, по крайней мере, те, которые являются полезными) имеют то свойство, что они описываются некоторой ограниченной метрикой относительно наблюдений, которые их определяют , Т.е. для нормального распределения вам не нужно знать каждую деталь о каждом наблюдении, только их общее количество и сумму.

Другими словами, предполагая, что вы уже знаете класс / семейство распределения, распределение имеет строго меньшую информационную энтропию, чем наблюдения, которые привели к этому.

Это кажется тривиальным, или это то, что вы ищете?

Какие свойства являются «глубокими», это очень субъективный вопрос! так что ответ зависит от вашего понятия "глубокий". Но если в некотором смысле наличие сопряженных априорных значений является «глубоким» свойством, то этот смысл является математическим, а не статистическим. Единственная причина, по которой (некоторые) статистики интересуются сопряженными априорами, заключается в том, что они упрощают некоторые вычисления. Но это менее важно для каждого дня, который проходит!

 EDIT

$h$$[0,1]$$f(p;\alpha,\beta)$$h(p)f(p;\alpha,\beta)$

$\text{prior}\times\text{likelihood}$предыдущие интерпретации данных для параметров в (обычных) перечисленных семействах сопряженных.

Таким образом, суммируя, обычные сопряженные семейства в экспоненциальных семействах могут быть оправданы как приоры, ведущие к линейным методам, или как приоры, основанные на представлении предыдущих данных. Надеюсь, этот расширенный ответ поможет!