Как смоделировать смещенную монету с изменяющимся во времени смещением?

Модели смещенных монет обычно имеют один параметр . Один из способов оценить θ по серии тиражей - использовать предварительное бета-тестирование и вычислить апостериорное распределение с биномиальной вероятностью.$\theta = P(\text{Head} | \theta)$$\theta$

В моих настройках из-за какого-то странного физического процесса свойства моей монеты медленно меняются, и становится функцией времени t . Мои данные представляют собой набор упорядоченных черпает ИЭ { H , T , H , H , H , T , . , , } . Я могу считать, что у меня есть только одна ничья для каждого t на сетке дискретного и регулярного времени.$\theta$$t$$\{H,T,H,H,H,T,...\}$$t$

Как бы вы смоделировали это? Я думаю о чем-то вроде фильтра Калмана, адаптированного к тому факту, что скрытая переменная равна и сохраняет биномиальную вероятность. Что я мог бы использовать для моделирования P ( θ ( t + 1 ) | θ ( t ) ), чтобы сделать вывод выводимым?$\theta$$P(\theta(t+1)|\theta(t))$

Отредактируйте следующие ответы (спасибо!) : Я хотел бы смоделировать как цепь Маркова порядка 1, как это делается в фильтрах HMM или Kalman. Единственное предположение, которое я могу сделать, это то, что θ ( t ) является гладким. Я мог бы написать P ( θ ( t + 1 ) | θ ( t ) ) = θ ( t ) + ϵ с ϵ небольшим гауссовским шумом (идея фильтра Калмана), но это нарушило бы требование, чтобы θ оставалось в [ $\theta(t)$$\theta(t)$$P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$$\epsilon$$\theta$ . Следуя идее @J Dav, я мог бы использовать функцию пробита, чтобы отобразить действительную линию на [ 0 , 1 ] , но у меня есть интуиция, что это даст неаналитическое решение. Бета-распределение со средним значением θ ( t ) и более широкой дисперсией может помочь.$[0,1]$$[0,1]$$\theta(t)$

Я задаю этот вопрос, так как у меня такое ощущение, что эта проблема настолько проста, что, должно быть, ее уже изучали раньше.

Я сомневаюсь, что вы можете придумать модель с аналитическим решением, но вывод по-прежнему можно сделать возможным, используя правильные инструменты, поскольку структура зависимостей вашей модели проста. Как исследователь машинного обучения, я бы предпочел использовать следующую модель, так как вывод можно сделать довольно эффективным, используя технику распространения ожиданий:

$X(t)$$t$

$\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$$t \geq 0$

$\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$

$X(t)$

$X(t) = 1$$Y(t) \geq 0$$X(t) = 0$$Y(t)$$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

Если вы заинтересованы в реализации алгоритма логического вывода, взгляните на эту статью . Они используют очень похожую модель, поэтому вы можете легко адаптировать алгоритм. Для понимания EP следующая страница может оказаться полезной. Если вы заинтересованы в реализации этого подхода, дайте мне знать; Я могу дать более подробный совет о том, как реализовать алгоритм вывода.

$_0$$_0$$_0$

$t$$p$

$p=\Phi(g(t,\theta))$$g(t,\theta)$$\Phi$

$\Phi$$g()$$g()$

Чтобы ответить на ваш переизданный вопрос:

Как вы сказали, использование пробита подразумевает только численные решения, но вместо этого вы можете использовать логистическую функцию:

$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

$\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

$\epsilon$$t$