Кто-нибудь знает, в каком году MCMC стал обычным явлением (то есть популярным методом байесовского вывода)? Ссылка на количество опубликованных MCMC (журнальных) статей с течением времени будет особенно полезной.
Я сомневаюсь, что кто-то может предоставить один год. Более разумно рассмотреть распространение MCMC с течением времени. Он возник в 50-х годах с алгоритмом Метрополиса-Гастингса, но не получил широкого распространения и использования до появления относительно недорогой вычислительной мощности, начавшейся в 80-х годах. Насколько мне известно, первые применения были в байесовских технологиях распознавания лица того времени. Во-вторых, начиная с 90-х годов, MCMC использует распространение в других областях, таких как экономика и маркетинг в чикагской школе. Проверьте Практический MCMC Гилкс и Шпигельхальтер 1996 года .
user332577
1
Этот вопрос является расплывчатым и требует мнения (нет общепринятого или общепринятого определения). Он допускает любое количество возможно правильных ответов.
Glen_b
1
@Glen_b Я думаю, что ответ, приведенный ниже, превосходен. Вы не согласны? Или вы написали свой комментарий до этого ответа? (Оба просто говорят «вчера»).
Питер Флом - Восстановить Монику
2
@ Питер Майн пришел раньше, чем ответить; наведите курсор мыши на слово «вчера» на каждом (или на что-либо, указывающее время, прошедшее с момента публикации), чтобы увидеть точное время UTC. Я думаю, что ответ, который вы указываете, является хорошим частичным ответом, но этот вопрос все равно допускает несколько совершенно разных вариантов, и нет хорошей основы для выбора между ними.
Glen_b
Ответы:
25
В этой статье, написанной Кристианом ( Сиань ) Робертом и Джорджем Казеллой, дается хорошее резюме истории MCMC. Из бумаги (акцент мой).
То, что разумно можно рассматривать как первый алгоритм MCMC, - это то, что мы сейчас называем алгоритмом Метрополиса, опубликованным Metropolis et al. (1953). Он исходит от той же группы ученых, которые разработали метод Монте-Карло, а именно от ученых из Лос-Аламоса, в основном физиков, работающих над математической физикой и атомной бомбой.
Алгоритм Метрополиса был позднее обобщен Гастингсом (1970) и его учеником Пескуном (1973, 1981).
Несмотря на то, что он несколько отстранен от статистического вывода в классическом смысле и основан на более ранних методах, используемых в статистической физике, исторический документ Geman and Geman (1984) вывел выборку Гиббса на арену статистического применения. Эта статья также отвечает за выборку имени Гиббса
В частности, Geman и Geman (1984) оказали влияние на Гельфанда и Смита (1990) на написание статьи, которая является подлинной отправной точкой для интенсивного использования методов MCMC основным статистическим сообществом . Это вызвало новый интерес к байесовским методам, статистическим вычислениям, алгоритмам и стохастическим процессам благодаря использованию вычислительных алгоритмов, таких как сэмплер Гиббса и алгоритм Метрополиса-Гастингса.
Интересно, что более ранняя статья Tanner and Wong (1987) содержала, по существу, те же ингредиенты, что и Gelfand and Smith (1990), а именно тот факт, что моделирование из условных распределений достаточно для асимптотического моделирования из соединения. Эта статья считалась достаточно важной. быть дискуссионным документом в журнале Американской статистической ассоциации, но его влияние было несколько ограничено по сравнению с Gelfand and Smith (1990).
Я не смог найти количество журнальных статей, опубликованных с течением времени, но вот график Google Ngram для количества упоминаний с течением времени. Это более или менее согласуется с представлением о том, что MCMC стал обычным явлением после публикации Гельфанда и Смита в 1990 году.
Спасибо! Я бы посчитал 1990 год самой важной датой в истории MCMC, так как в том же году в ведущих журналах по статистике появились четыре статьи Алана Гельфанда и Адриана Смита, в которых идея использования цепей Маркова для моделирования внезапно стала господствующей тенденцией. Я помню, как присутствовал на выступлении Адриана Смита в июне 1989 года в Сехербруке (PQ), где он продемонстрировал универсальность идеи, показав слайд с несколькими строками кода (Fortran?).
Сиань
12
Превосходный ответ Кнрумси дает некоторую историю о продвижении важной академической работы в MCMC. Еще одним аспектом, заслуживающим изучения, является разработка программного обеспечения для облегчения MCMC обычным пользователем. Статистические методы часто используются в основном специалистами, пока они не будут реализованы в программном обеспечении, что позволяет обычному пользователю реализовать их без программирования. Например, первый выпуск программного обеспечения BUGS состоялся в 1997 году. Похоже, это не изменило траекторию роста на графике N-Grams, но, возможно, повлияло на то, что этот метод стал широко использоваться среди тех пользователей, которые его нашли. пугающим программировать свои собственные процедуры.
Да, есть небольшой поворот в MCMC примерно в 1997 году.
Муру
Хорошо заметный - не уверен, будет ли это достаточно большое изменение, чтобы быть статистически значимым, но все равно отметил.
Восстановить Монику
Визуально оценивая, если бы сохранялся уклон до 1997 года, мы бы увидели примерно 0,000015% в 2004 году (но фактическое значение близко к 0,0000225%). Это на 50% больше. Но я полагаю, что цифры все равно слишком малы.
Ответы:
В этой статье, написанной Кристианом ( Сиань ) Робертом и Джорджем Казеллой, дается хорошее резюме истории MCMC. Из бумаги (акцент мой).
Я не смог найти количество журнальных статей, опубликованных с течением времени, но вот график Google Ngram для количества упоминаний с течением времени. Это более или менее согласуется с представлением о том, что MCMC стал обычным явлением после публикации Гельфанда и Смита в 1990 году.
источник
Превосходный ответ Кнрумси дает некоторую историю о продвижении важной академической работы в MCMC. Еще одним аспектом, заслуживающим изучения, является разработка программного обеспечения для облегчения MCMC обычным пользователем. Статистические методы часто используются в основном специалистами, пока они не будут реализованы в программном обеспечении, что позволяет обычному пользователю реализовать их без программирования. Например, первый выпуск программного обеспечения BUGS состоялся в 1997 году. Похоже, это не изменило траекторию роста на графике N-Grams, но, возможно, повлияло на то, что этот метод стал широко использоваться среди тех пользователей, которые его нашли. пугающим программировать свои собственные процедуры.
источник