Оценка вероятностей марковских переходов по данным последовательности

У меня есть полный набор последовательностей (432 наблюдения, если быть точным) из 4 состояний : например, $A-D$

Y = (\begin{array}{ccccccc} A & C & D & D & B & A & C \\ B & A & A & C & A & - & - \\ ⋮ & ⋮ & ⋮ & ⋮ & ⋮ & ⋮ & ⋮ \\ B & C & A & D & A & B & A \end{array})

$Y=\left(\begin{array}{c c c c c c c} A& C& D&D & B & A &C\\ B& A& A&C & A&- &-\\ \vdots&\vdots&\vdots&\vdots&\vdots&\vdots&\vdots\\ B& C& A&D & A & B & A\\ \end{array}\right)$

РЕДАКТИРОВАТЬ : Последовательности наблюдения имеют неодинаковую длину! Это что-то меняет?

Есть ли способ расчета переходной матрицы в Matlab или R или аналогичных? Я думаю, что пакет HMM может помочь. Есть предположения?

P_{i j} (Y_{t} = j | Y_{t - 1} = i)

$P_{ij}(Y_{t}=j|Y_{t-1}=i)$

Например: оценка вероятностей цепей Маркова

r matlab markov-process HCAI
источник

У вас есть

4

$4$ состояния:

S = {1 := A, 2 := B, 3 := C, 4 := D}

$S=\{1:=A,2:=B,3:=C,4:=D\}$ . Пусть

n_{i j}

$n_{ij}$ будет числом раз, когда цепочка переходила из состояния

i

$i$ в состояние

j

$j$ , для

i j, = 1, 2, 3, 4

$ij,=1,2,3,4$ . Вычислите

n_{i j}

$n_{ij}$ из вашей выборки и оцените матрицу переходов

(p_{i j})

$(p_{ij})$ по максимальной вероятности, используя оценки

{\hat{p}}_{i j} = n_{i j} / \sum_{j = 1}^{4} n_{i j}

$\hat{p}_{ij}=n_{ij}/\sum_{j=1}^4 n_{ij}$ .

Дзен

Эти примечания выводят оценки MLE: stat.cmu.edu/~cshalizi/462/lectures/06/markov-mle.pdf

Zen,

Аналогичный вопрос: stats.stackexchange.com/questions/26722/…

B_Miner

@B_Miner не могли бы вы написать свой код в форме псевдокода для меня? Или объясните это в упрощенном виде ... Однако я вижу, что это работает в моей консоли R.

HCAI

У меня есть вопрос: я понимаю вашу реализацию, и она мне нравится, но мне было интересно, почему я не могу просто использовать функцию Matlab hmmestimate для вычисления T-матрицы? Что-то вроде: states = [1,2,3,4] [T, E] = hmmestimate (x, states); где T - переходная матрица, в которой я заинтересован. Я новичок в цепях Маркова и HMM, поэтому я хотел бы понять разницу между двумя реализациями (если они есть).

Любое

Ответы:

Пожалуйста, проверьте комментарии выше. Вот быстрая реализация в R.

x <- c(1,2,1,1,3,4,4,1,2,4,1,4,3,4,4,4,3,1,3,2,3,3,3,4,2,2,3)
p <- matrix(nrow = 4, ncol = 4, 0)
for (t in 1:(length(x) - 1)) p[x[t], x[t + 1]] <- p[x[t], x[t + 1]] + 1
for (i in 1:4) p[i, ] <- p[i, ] / sum(p[i, ])

Результаты:

> p
          [,1]      [,2]      [,3]      [,4]
[1,] 0.1666667 0.3333333 0.3333333 0.1666667
[2,] 0.2000000 0.2000000 0.4000000 0.2000000
[3,] 0.1428571 0.1428571 0.2857143 0.4285714
[4,] 0.2500000 0.1250000 0.2500000 0.3750000

(Возможно, глупая) реализация в MATLAB (которую я никогда не использовал, так что я не знаю, сработает ли это. Я только что прогуглил «объявить векторную матрицу MATLAB», чтобы получить синтаксис):

x = [ 1, 2, 1, 1, 3, 4, 4, 1, 2, 4, 1, 4, 3, 4, 4, 4, 3, 1, 3, 2, 3, 3, 3, 4, 2, 2, 3 ]
n = length(x) - 1
p = zeros(4,4)
for t = 1:n
  p(x(t), x(t + 1)) = p(x(t), x(t + 1)) + 1
end
for i = 1:4
  p(i, :) = p(i, :) / sum(p(i, :))
end

Zen
источник

Выглядит отлично! Я не уверен, что 3-я строка делает в вашем коде (в основном потому, что я знаком с Matlab). Есть ли шанс, что вы могли бы написать это в Matlab или псевдокоде? Я был бы очень благодарен.

HCAI

x_{1}, \dots, x_{n}

$x_1,\dots,x_n$

t = 1, \dots, n - 1

$t=1,\dots,n-1$

p_{x_{t}, x_{t + 1}}

$p_{x_t,x_{t+1}}$

(p_{i j})

$(p_{ij})$

for

x

$x$

x_{i}

$x_i$

x_{j}

$x_j$

x

$x$

\to

$\to$

Вот моя реализация в R

x <- c(1,2,1,1,3,4,4,1,2,4,1,4,3,4,4,4,3,1,3,2,3,3,3,4,2,2,3)
xChar<-as.character(x)
library(markovchain)
mcX<-markovchainFit(xChar)$estimate
mcX

Джорджо Спедикато
источник

Запрос user32041 (опубликованный в виде редактирования, а не комментария, поскольку у него / нее отсутствует репутация): как я могу принудительно преобразовать значение переходаMatrix результата markovchainFit в data.frame?

ЧЛ

d a t a . f r a m e

$data.frame$

a s (m c X, " d a t a . f r a m e ")

$as(mcX,"data.frame")$

@GiorgioSpedicato Можете ли вы прокомментировать, как обращаться с последовательностями неодинаковой длины (я не могу объединить), пожалуйста, в вашем пакете?

HCAI

@HCAI, см. Текущую страницу виньетки 35-36

Джорджо Спедикато,

@GiorgioSpedicato спасибо за ссылку Cran.r-project.org/web/packages/markovchain/vignettes/… . У меня все еще есть n матриц перехода, по одной для каждой последовательности. Что мне нужно, так это одно общее, которое учитывает все наблюдения последовательности. Я что-то пропустил?

HCAI

Вот способ сделать это в Matlab:

x = [1,2,1,1,3,4,4,1,2,4,1,4,3,4,4,4,3,1,3,2,3,3,3,4,2,2,3];
counts_mat = full(sparse(x(1:end-1),x(2:end),1));
trans_mat = bsxfun(@rdivide,counts_mat,sum(counts_mat,2))

Благодарность SomptingGuy: http://www.eng-tips.com/viewthread.cfm?qid=236532

Джон
источник