Расчет логарифмической вероятности для заданного MLE (цепочки Маркова)

9

В настоящее время я работаю с цепями Маркова и рассчитал оценку максимального правдоподобия, используя вероятности переходов, как предложено несколькими источниками (т. Е. Количество переходов от a к b, деленное на количество общих переходов от a к другим узлам).

Теперь я хочу вычислить логарифмическую вероятность MLE.

fsociety
источник
Вы уже вычислили максимальную оценку вероятности переходных вероятностей, и теперь вы хотите вычислить логарифмическую вероятность чего именно?
Ник

Ответы:

11

Пусть будет путь к марковской цепи и пусть P θ ( Х 1 , . . . , Х Т ) будет вероятность обнаружения пути , когда θ является истинным значением параметра (он же функции правдоподобия для θ ). Используя определение условной вероятности, мы знаем{Xi}i=1TPθ(X1,...,ИксT)θθ

пθ(Икс1,,,,,ИксT)знак равнопθ(ИксT|ИксT-1,,,,,Икс1)пθ(Икс1,,,,,ИксT-1)

Так как это марковской цепи, мы знаем , что , так что это упрощает это допθ(ИксT|ИксT-1,,,,,Икс1)знак равнопθ(ИксT|ИксT-1)

пθ(Икс1,,,,,ИксT)знак равнопθ(ИксT|ИксT-1)пθ(Икс1,,,,,ИксT-1)

Теперь, если вы повторите ту же логику раз, вы получитеT

пθ(Икс1,,,,,ИксT)знак равноΠязнак равно1Tпθ(Икся|Икся-1)

где следует интерпретировать как начальное состояние процесса. Слагаемые в правой части являются просто элементами матрицы перехода. Поскольку вы запрашивали правдоподобие, окончательный ответ:Икс0

L(θ)знак равноΣязнак равно1Tжурнал(пθ(Икся|Икся-1))

Это вероятность одной цепочки Маркова - если ваш набор данных включает в себя несколько (независимых) цепей Маркова, то полная вероятность будет суммой членов этой формы.

макрос
источник
пθ
пθ(Икся|Икся-1)Икся-1Иксяθθпθ^MLЕ(Икся|Икся-1)Икся-1Икся
Еще раз спасибо! Еще один вопрос: если я использую другой порядок (например, k = 2), как этот процесс будет работать тогда?
fsociety
Не могли бы вы уточнить, что вы подразумеваете под «заказ»?
Макро
Кзнак равно2Икся-1,Икся-2Икся-1