MCMC без памяти?

18

Я пытаюсь понять, что такое цепь Маркова Монте-Карло (MCMC) со страницы французской Википедии. Они говорят, что «методы Монте-Карло цепи Маркова состоят из генерации вектора только из векторных данных поэтому это процесс« без памяти »»ИксяИкся-1

«Методы Монте-Карло» в соответствии с Марковским соглашением являются уникальными уникальными для всех сторон ; c'est donc un processus «без памяти»,ИксяИкся-1

Я не понимаю, почему они говорят, что MCMC «без памяти», поскольку мы используем информацию из векторных данных для генерации .Икся-1Икся

IggyPass
источник
3
Потому что вам не нужно ничего «помнить» о процессе, кроме последнего состояния цепочки. Я думаю, вам все еще нужно немного памяти, но это всего лишь одна часть информации.
user2974951
Икся-1 не "запоминается"; это явный ввод.
chepner

Ответы:

28

Определяющей характеристикой цепи Маркова является то, что условное распределение ее текущей стоимости в зависимости от прошлых значений зависит только от предыдущего значения . Таким образом, каждая цепь Маркова «без памяти» в той степени, в которой только предыдущее значение влияет на текущую условную вероятность, а все предыдущие состояния «забыты». (Вы правы, что это не совсем без памяти - в конце концов, условное распределение текущей стоимости зависит от предыдущего значения.) Это верно для MCMC, а также для любой другой цепи Маркова.

Восстановить Монику
источник
9
Если вы сделаете это на шаг вперед, вы можете сказать, что условное распределение его будущих значений, обусловленное прошлыми и настоящими значениями, зависит только от текущего значения, и в этом смысле память о прошлом не нужна, пока известна текущая позиция
Генри
За исключением того, что вы всегда можете настроить пространство состояний для хранения любого конечного объема информации о прошлом. Это по-прежнему марковское, например, зависеть от ваших последних десяти состояний, так как вы можете просто расширить пространство состояний, чтобы включить эту информацию в «предыдущее состояние».
Дэвид Ричерби
15

Хотя у нас есть правильный ответ, я хотел бы немного расширить интуитивную семантику утверждения. Представьте, что мы переопределяем наши индексы так, что вы генерируете вектор из вектора . Теперь момент метафорически рассматривается как «настоящее», и все векторы, приходящие «раньше, чем» , не имеют значения для вычисления следующего в будущем.Икся+1ИксяяИкся

Благодаря этому простому перенумерации оно становится «полностью без памяти» в интуитивном смысле, то есть совершенно не имеет значения, каким образом система Маркова оказалась в ее нынешнем состоянии. Только текущее состояние определяет будущие состояния без использования какой-либо информации из прошлых ( ) состояний.Икся-N

Возможно, более тонкий момент: слово «память» также используется, потому что это также означает, что вы не можете вывести прошлые состояния из текущего состояния. Как только вы окажетесь в , вы не будете знать, что произошло «до» во время . Это противоположно системам, которые кодируют знания о прошлых состояниях в настоящем состоянии.ИксяИкся-N

rumtscho
источник
5

Ты просыпаешься. Вы понятия не имеете, как вы попали туда, где вы находитесь. Вы оглядываетесь вокруг и принимаете решение о том, что делать дальше, основываясь исключительно на информации, имеющейся у вас на тот момент. По сути, это та же ситуация, что и в MCMC.

Он использует текущую информацию, которую он может видеть в настоящее время, чтобы принять решение о том, что делать дальше. Вместо того, чтобы думать об этом, как о том, чтобы вычислить из (что может быть причиной того, что вызывает у вас проблемы, потому что вы думаете: «эй, мы смотрим в прошлое, когда смотрим на ) думать об этом, как о том, чтобы выяснить, что должно быть основано на текущей информации для которой вам не нужна «память». Эти две формулировки эквивалентны, но это может помочь вам подумать о семантике чуть лучше.ИксяИкся-1Икся-1Икся+1Икся

Dason
источник
2
Давайте назовем это методом Похмелья
IggyPass
@ThePassenger Называй это как хочешь. Просто, пожалуйста, передайте аспирин.
Дейсон