Вопросы с тегом «markov-process»

Случайный процесс со свойством, что будущее условно не зависит от прошлого, учитывая настоящее.

57
Ресурсы для изучения цепей Маркова и скрытых марковских моделей

Я ищу ресурсы (учебные пособия, учебники, веб-трансляции и т. Д.), Чтобы узнать о цепи Маркова и HMM. Я работаю биологом, и в настоящее время я участвую в проекте, связанном с биоинформатикой. Кроме того, каковы необходимые математические знания, необходимые для достаточного понимания моделей...

51
Есть ли у нас проблема «жалких голосов»?

Я знаю, это может звучать как не по теме, но выслушайте меня. В Stack Overflow и здесь мы получаем голоса за сообщения, все это хранится в табличной форме. Например: идентификатор сообщения идентификатор голосования тип голосования дата и время ------- -------- --------- -------- 10 1 2 2000-1-1...

40
Чем отличаются скрытые марковские модели от нейронных сетей?

Я просто промочил статистику, поэтому извините, если этот вопрос не имеет смысла. Я использовал модели Маркова для прогнозирования скрытых состояний (нечестных казино, бросков игральных костей и т. Д.) И нейронных сетей для изучения кликов пользователей в поисковой системе. У обоих были скрытые...

29
Вычислить матрицу перехода (Маркова) в R

Есть ли способ в R (встроенная функция) вычислить матрицу переходов для цепи Маркова из набора наблюдений? Например, взять набор данных, подобный следующему, и вычислить матрицу перехода первого порядка? dat<-data.frame(replicate(20,sample(c("A", "B", "C","D"), size = 100,...

28
Разница между байесовскими сетями и марковским процессом?

В чем разница между байесовской сетью и марковским процессом? Я полагал, что понял принципы обоих, но теперь, когда мне нужно сравнить два, я чувствую себя потерянным Они значат почти то же самое для меня. Конечно, нет. Ссылки на другие ресурсы также приветствуются....

25
Случайные матрицы с ограничениями на длину строки и столбца

Мне нужно сгенерировать случайные неквадратные матрицы с RRR строками и столбцами , элементами, случайно распределенными со средним значением = 0, и ограниченными таким образом, чтобы длина (норма L2) каждой строки составляла а длина каждого столбца составляла . Эквивалентно, сумма квадратных...

22
Марковский процесс только в зависимости от предыдущего состояния

Я просто хотел бы, чтобы кто-то подтвердил мое понимание или я что-то упустил. Определение марковского процесса говорит, что следующий шаг зависит только от текущего состояния, а не от прошлых состояний. Итак, допустим, у нас было пространство состояний a, b, c, d, и мы идем от a-> b-> c->...

21
Примеры скрытых проблем моделей Маркова?

Я прочитал довольно много скрытых марковских моделей и смог сам написать довольно простую версию. Но есть два основных способа, которыми я, кажется, учусь. Один из них - прочитать и внедрить его в код (что и делается), а второй - понять, как он применяется в различных ситуациях (чтобы я мог лучше...

21
Как спроецировать новый вектор на пространство PCA?

После выполнения анализа главных компонентов (PCA) я хочу спроецировать новый вектор на пространство PCA (т.е. найти его координаты в системе координат PCA). Я рассчитал PCA на языке R, используя prcomp. Теперь я должен быть в состоянии умножить свой вектор на матрицу вращения PCA. Должны ли...

21
Могут ли быть использованы алгоритмы машинного обучения или глубокого обучения, чтобы «улучшить» процесс выборки техники MCMC?

Основываясь на небольшом знании о методах MCMC (цепочка Маркова, Монте-Карло), я понимаю, что отбор проб является важной частью вышеупомянутой техники. Наиболее часто используемые методы отбора проб - это гамильтониан и метрополис. Есть ли способ использовать машинное обучение или даже глубокое...

21
В чем разница между «ограничивающим» и «стационарным» распределением?

Я делаю вопрос о цепях Маркова, и последние две части говорят это: Обладает ли эта цепь Маркова предельным распределением. Если ваш ответ «да», найдите ограничивающее распределение. Если ваш ответ «нет», объясните почему. Обладает ли эта цепь Маркова стационарным распределением. Если ваш ответ...

20
Реальные примеры марковских процессов принятия решений

Я смотрел много обучающих видео, и они выглядят одинаково. Вот этот, например: https://www.youtube.com/watch?v=ip4iSMRW5X4 Они объясняют состояния, действия и вероятности, которые в порядке. Человек объясняет это хорошо, но я просто не могу понять, для чего это будет использоваться в реальной...

17
Может ли кто-нибудь объяснить мне орехи на английском языке?

Мое понимание алгоритма следующее: Пробоотборник без разворота (NUTS) - это метод Гамильтона Монте-Карло. Это означает, что это не метод цепей Маркова, и, таким образом, этот алгоритм избегает части случайного блуждания, которая часто считается неэффективной и медленно сходится. Вместо случайного...

17
Проверка свойства памяти Маркова без памяти

Я подозреваю, что ряд наблюдаемых последовательностей представляет собой цепь Маркова ... X=⎛⎝⎜⎜⎜⎜AB⋮BCA⋮CDA⋮ADC⋮DBA⋮AAD⋮BCA⋮E⎞⎠⎟⎟⎟⎟X=(ACDDBACBAACADA⋮⋮⋮⋮⋮⋮⋮BCADABE)X=\left(\begin{array}{c c c c c c c} A& C& D&D & B & A &C\\ B& A& A&C & A&D &A\\ \vdots&\vdots&\vdots&\vdots&\vdots&\vdots&\vdots\\ B&...

16
В чем разница между марковскими цепями и марковскими процессами?

В чем разница между марковскими цепями и марковскими процессами? Я читаю противоречивую информацию: иногда определение основано на том, является ли пространство состояний дискретным или непрерывным, а иногда - на том, является ли время дискретным или непрерывным. Слайд 20 этого документа :...

16
Оценка вероятностей марковских переходов по данным последовательности

У меня есть полный набор последовательностей (432 наблюдения, если быть точным) из 4 состояний : например,A−DA−DA-D Y=⎛⎝⎜⎜⎜⎜AB⋮BCA⋮CDA⋮ADC⋮DBA⋮AA−⋮BC−⋮A⎞⎠⎟⎟⎟⎟Y=(ACDDBACBAACA−−⋮⋮⋮⋮⋮⋮⋮BCADABA)Y=\left(\begin{array}{c c c c c c c} A& C& D&D & B & A &C\\ B& A& A&C & A&- &-\\...

16
Интуитивное объяснение периодичности в цепях Маркова

Может кто-нибудь объяснить мне интуитивно, что такое периодичность цепи Маркова? Это определяется следующим образом: Для всех штатов iii в SSS didid_i = gcd{n∈N|p(n)ii>0}=1{n∈N|pii(n)>0}=1\{n \in \mathbb{N} | p_{ii}^{(n)} > 0\} =1 Спасибо за ваши усилия!...

15
Выборка из неправильного распределения (с использованием MCMC и других)

Мой основной вопрос: как бы вы пробовали неправильный дистрибутив? Имеет ли смысл пробовать неправильный дистрибутив? Здесь комментарии Сианя как бы касаются вопроса, но я искал некоторые подробности по этому поводу. Более конкретно для MCMC: Говоря о MCMC и читая статьи, авторы подчеркивают, что...

15
Какая связь между цепью Маркова и цепью Маркова Монте-Карло

Я пытаюсь понять цепи Маркова, используя SAS. Я понимаю, что марковский процесс - это процесс, в котором будущее состояние зависит только от текущего состояния, а не от прошлого, и существует матрица перехода, которая фиксирует вероятность перехода из одного состояния в другое. Но тут я наткнулся...

15
Почему всегда есть хотя бы одна политика, которая лучше или равна всем другим политикам?

Усиление обучения: введение. Второе издание, в процессе ., Ричард С. Саттон и Эндрю Дж. Барто (с) 2012, с. 67-68. Решение задачи обучения с подкреплением означает, грубо говоря, поиск политики, которая в конечном итоге приносит много пользы. Для конечных MDP мы можем точно определить оптимальную...