Что может быть примером действительно простой модели с невероятной вероятностью?

Приближенное байесовское вычисление - это действительно классный метод для подгонки практически любой стохастической модели, предназначенный для моделей, в которых вероятность трудно поддается оценке (скажем, вы можете выбрать образец из модели, если вы исправите параметры, но вы не можете численно, алгоритмически или аналитически рассчитать вероятность). При ознакомлении аудитории с приблизительными байесовскими вычислениями (ABC) было бы неплохо использовать примерную модель, которая действительно проста, но все же несколько интересна и имеет непостижимую вероятность.

Что может быть хорошим примером действительно простой модели, которая все еще имеет непреодолимую вероятность?

bayesian simulation model likelihood abc Расмус Батх
источник

Ваш пример с носками действительно прост и в основном неразрешимый ...

Сиань,

Ps: пример ссылки носки ...

Сиань

Что ж, я надеялся, что носки будут трудноразрешимыми, но вы доказали, что это не так, верно? :)

Rasmus Bååth

Это хороший вопрос! В литературе есть примеры игрушек, но они кажутся мне немного искусственными. Было бы неплохо иметь действительно простую модель, мотивированную реальным приложением, с невероятной вероятностью. Кажется, я помню, как Дэвид Кокс представлял что-то подобное, но я не видел, чтобы это было опубликовано ...

Деннис Прангл

Ответы:

Два распределения, которые часто используются в литературе:

Распределение g-and-k. Это определяется его квантильной функцией (обратная cdf), но имеет неразрешимую плотность. Rayner and MacGillivray (2002) является хорошим обзором этого, и одна из многих статей ABC, которые используют его в качестве игрушечного примера, является Drovandi and Pettitt (2011) .
Альфа-стабильные распределения. Они определяются их характерной функцией, но имеют трудноразрешимую плотность, за исключением пары особых случаев. Это имеет применение в финансах и часто используется в последовательных статьях ABC, например, Yildirim et al (2013) .

Деннис Прангл
источник

Q (u; A, B, g, k) = A + B [1 + c \frac{1 - \exp {- g Φ (u)}}{1 + \exp {- g Φ (u)}}] {1 + Φ (u)^{2}}^{k} Φ (u)

$Q(u;A,B,g,k)=A + B\left[1+c\dfrac{1-\exp\{-g\Phi(u)\}}{1+\exp\{-g\Phi(u)\}}\right]\{1+\Phi(u)^2\}^k\Phi(u)$

α

$\alpha$

Может ли кто-нибудь добавить примеры ситуаций, которые можно смоделировать с помощью этих распределений?

предположения

x_{1}, \dots, x_{n} \overset{iid}{\sim} N (θ, σ^{2}),

$x_1,\ldots,x_n\stackrel{\text{iid}}{\sim}\text{N}(\theta,\sigma^2)\,,$

S (x_{1}, \dots, x_{n}) = (med (x_{1}, \dots, x_{n}), mad (x_{1}, \dots, x_{n})),

$S(x_1,\ldots,x_n)=(\text{med}(x_1,\ldots,x_n),\text{mad}(x_1,\ldots,x_n))\,,$

Сиань
источник

Тот факт, что плотность соединения сложна для записи, не означает, что она не имеет замкнутой формы! «Непреодолимое» начинает казаться вопросом мнения в этой теме. Возможно, вы могли бы прояснить это, объяснив, что вы подразумеваете под «неразрешимым»?

whuber

Поскольку я не знаю никого, кто мог бы вычислить эту плотность, я называю ее труднопреодолимой ... Поскольку у меня нет компьютерной программы, которая могла бы получить числовое значение этой вероятности, я вынужден использовать алгоритм ABC.

Сиань

L (θ | x_{1}, \dots, x_{n})

$L(\theta|x_1,\ldots,x_n)$

@whuber Если бы можно было успешно вычислить вероятность, пример был бы не очень подходящим для демонстрации алгоритма для аппроксимации постеров без вычисления вероятности

\times

$\times$ предыдущие продукты.

Юхо Коккала

@whuber Я думаю, что ваша интерпретация (2) в начале комментария «Что мне интересно», по крайней мере, по сути, предполагаемая. Однако я не понимаю ваше последнее замечание «если ваш алгоритм ABC не требует много времени для выполнения» - суть вопроса в том, что с помощью ABC можно избежать дорогостоящей оценки вероятности.

Юхо Коккала