(Этот вопрос навеян этот комментарий от Сианя .)
Хорошо известно, что если предварительное распределение является правильным и вероятность хорошо определена, то апостериорное распределение почти наверняка.
В некоторых случаях мы используем вместо этого умеренную или возведенную в степень вероятность, приводящую к псевдо-задней
для некоторого(например, это может иметь вычислительные преимущества).
В этой ситуации возможно ли иметь надлежащий априорный, но неправильный псевдо-задний?
Ответы:
Возможно, дляα ≤ 1 это аргумент, показывающий, что невозможно построить такой апостериор?
Мы хотели бы выяснить, возможно ли это для∫π~( θ | x ) dθ = ∞ .
На RHS:
Еслиα ≤ 1 , Иксα - вогнутая функция, то по неравенству Дженсена:
... гдем ( х ) как указал Сиань, - нормализующая константа (свидетельство).
источник
Можно использовать результат в ответе @ InfProbSciX для подтверждения результата в целом. ПерепишитеL ( θ ∣ x )απ( θ ) как L ( θ ∣ x )α - 1L ( θ ∣ x ) π( θ ) .
Если 1 ≤ α ≤ 2 , мы имеем случай неравенства Дженсена выше, так как мы знаем, что L ( x | θ ) π(θ ) Является normalisable. Аналогично, если 2 ≤ α ≤ 3 , мы можем записать L ( х | θ )α - pL ( х | θ )пπ( θ ) ,
причем 1 ≤ р ≤ 2 , снова попадая в тот же случай, так как мы знаем что L ( x | θ )пπ( θ ) нормализуемо. Теперь можно использовать (сильную) индукцию, чтобы показать случай в целом.
Старые комментарии
Не уверен, что это супер полезно, но так как я не могу комментировать, я оставлю это в ответе. В дополнение к превосходному замечанию @ InfProbSciX оα ≤ 1 , если сделать дополнительное предположение, что L ( θ ∣ x ) ∈ Lп , то невозможно иметь правильный априорный, но неправильный псевдо-задний для 1 < α ≤ p , Например, если мы знаем, что второй ( п ) момент L ( θ ∣ x ) существует, мы знаем, что он находится в L2 ( Lп ) и, следовательно, псевдо-апостериор будет подходящим для 0 ≤ α ≤ 2 . Раздел 1 в этих заметках посвящен чуть более подробно, но, к сожалению, неясно, насколько широк, скажем, L10 pdfs. Я прошу прощения, если я говорю вне очереди здесь, я действительно хотел оставить это в качестве комментария.
источник