Каков лучший вводный учебник по байесовской статистике?

192

Какой учебник по байесовской статистике является лучшим вводным?

Одна книга за ответ, пожалуйста.

Шейн
источник
36
В ответах, пожалуйста, объясните, почему вы рекомендуете книгу как «лучшую».
whuber
3
Как может быть более одного ответа на вопрос, сформулированный так?
naught101
7
Сейчас это старая ветка, но я вернулся к +1 новой книге «Статистическое переосмысление». И, глядя на более высокопоставленные ответы в этой ветке, я думаю, что ключевое различие не было сделано: «вводная» для кого? Первый курс по статистике (который имеет байесовский подход)? Введение в байесовские методы для кого-то с базовыми (не байесовскими) классами статистики? Или введение в байесовскую статистику для практикующего не байесовской статистики, который наконец-то Вы были убеждены, что эта байесовская вещь не причуда? Очень разные представления
Уэйн

Ответы:

79

В середине 2011 года Джон Крушке выпустил книгу под названием « Анализ байесовских данных: учебное пособие с использованием R и BUGS» . (Второе издание было выпущено в ноябре 2014 года: « Анализ байесовских данных», второе издание: учебное пособие для R, JAGS и Stan .) Это действительно вводное руководство . Если вы хотите перейти от частых статистических данных в байесовскую, хотя, особенно с многоуровневым моделированием, я рекомендую Gelman и Hill.

У Джона Крушке также есть веб-сайт для книги, на котором есть все примеры в книге «Ошибки» и «JAGS». Его блог о байесовской статистике также связан с книгой.

Jeromy Anglim
источник
Предложение Амира является дубликатом этого. (Полное название книги «Анализ байесовских данных: Учебное пособие с R и ошибками».) В качестве действительно вводной книги я добавил +1 к каждой.
Уэйн
обновил заголовок и добавил пару связанных ссылок.
Jeromy Anglim
4
Я также голосую за книгу Крушке. Я просмотрел большинство книг, перечисленных в ответах, и эта книга показалась мне наиболее понятной. ИМО, это самая понятная книга статистики, которую я когда-либо читал. Очень помогает то, что R-код доступен для сопоставления формул с кодом. Автор начинает с очень простых примеров и опирается на них. Очень маленький фон необходим. Все отзывы на Amazon очень благоприятны. Книга Хоффа - моя вторая любимая.
Джулиет
Ха-ха, мне нравится обложка книги: «Почему счастливые щенки? (Как будто счастливые щенки нуждаются в оправдании!)»
Жубарб
Мой голос также относится к книге Крушке за 2010 год. Пытаясь изучить байесовскую статистику, я попробовал несколько из них, и этот попал в цель. Жесткий.
Патрик Куломб
55

Мой фаворит - «Байесовский анализ данных» Гельмана и соавт.

Шейн
источник
28
Это вводная книга для людей, которые уже имеют приличное количество статистических данных.
Джон Сальватье
38
Я начал докторскую степень в области статистики 9 месяцев назад, и, честно говоря, BDA Гельмана все еще выше меня, поэтому я бы не назвал это вводным текстом!
Шон
5
-1, потому что согласно многочисленным комментариям и другим ответам, это не вводный.
naught101
6
@ naught101 так ты понизишь голос, не зная книги?
предположения
5
Первые четыре или пять глав действительно вводные! так же и здесь
kjetil b halvorsen
33

Статистическое переосмысление было выпущено всего несколько недель назад, и поэтому я все еще читаю его, но я думаю, что это очень хорошее и свежее дополнение к действительно вводным книгам о Байесовской статистике. Автор использует подход, аналогичный тому, который использовал Джон Крушке в своих книгах о щенках ; очень подробный, подробные объяснения, хорошие педагогические примеры, он также использует вычислительный, а не математический подход.

Лекции на YouTube и другие материалы также доступны здесь .

Код перенесен в Python / PyMC3

алоктаводии
источник
4
+1 Я сейчас слушаю лекции. Он очень интересный и имеет хороший подход. Книга превосходна и переносит вас от основ к иерархическим моделям. Это только предполагает, что читатель несколько научен, имеет разумное понимание математики (не считая исчисления) и слышал кое-что о статистике. Это книга, которую я хотел бы иметь. Порядок, в котором он представляет вещи, и его система сторон великолепна.
Уэйн
1
Я врезался в стену, пытаясь проработать книгу Крушке, где он начал делать большие прыжки в логике, за которыми я просто не мог следовать. К счастью, я наткнулся на «Статистическое переосмысление», которое до сих пор является единственной книгой, которую я нашел, которая дает вам действительно интуитивное понимание темы.
Brideau
Пройдя через эту ветку, я попытался прочитать первую главу этой книги, и мне было очень трудно это как не являющийся носителем английского языка, так и не ученый . Сначала я должен был пройти через такие слова, как эпистемология , идиосинкразия , затем были длинные предложения, которые мне приходилось читать дважды / трижды, чтобы понять, что они означают буквально (забудьте о завершении этих предложений). Тогда самый первый пример касается естественной эволюции, которая звучит для меня по-гречески: количество сайтов, количество аллелей, нейтральность . Книга может быть легкой для многих, но может быть трудной для многих
Гаурав Сингхал
30

Еще один голос за Гельмана и соавторов, но для меня второе место - убежденность в учении на собственном опыте - это «Байесовское вычисление с R» Джима Альберта .

богатых
источник
5
Согласен сильно. Обе замечательные книги. Начните с байесовских вычислений с помощью R, затем получите Gelman et al.
PeterR
26

Sivia and Skilling, Анализ данных: Байесовский учебник (2ed) 2006 246p 0198568320 books.goo :

Статистические лекции были источником большого недоумения и разочарования для поколений студентов. Эта книга пытается исправить ситуацию, излагая логический и унифицированный подход ко всему предмету анализа данных. Этот текст предназначен в качестве учебного пособия для старших студентов и студентов-исследователей в области науки и техники ...

Я не знаю других рекомендаций, хотя.

Денис
источник
3
Эта книга это отлично. Это коротко и практично.
Джон Сальватье
2
Я думаю, что это гораздо лучший вводный текст, чем Гельман.
Шон
21

Для введения я бы порекомендовал вероятностное программирование и байесовские методы для хакеров Кэма Дэвидсона-Пилона, свободно доступные в Интернете.

Из его описания:

Введение в байесовские методы и вероятностное программирование с точки зрения вычислений / понимания - во-первых, математики - во-вторых.

Он очень нагляден, позволяет сразу перейти к значению и заполнить мелкие детали позже, имеет много примеров, имеет интерактивный код (в IPython Notebook).

Петр Мигдаль
источник
4
Я думал, что эта онлайн-книга была трудна для чтения / плохо написана.
captain_ahab
2
Я думаю, что книга в порядке.
SmallChess
1
Я думаю, что эта книга - фантастическое вступление для программистов, чтобы получить первый опыт работы с байесовской статистикой
SARose
19

Я полностью рекомендую занимательную полемику «Теория вероятностей: логика науки» Э. Т. Джейнса.

Это вводный текст в том смысле, что он не требует (и на самом деле предпочитает) никаких предварительных знаний в области статистики, но в конечном итоге он использует довольно сложную математику. По сравнению с большинством других предоставленных ответов, эта книга не так практична и не легко усваивается, скорее, она дает философскую основу для того, почему вы хотели бы использовать байесовские методы, и почему бы не использовать частые подходы. Это вводный в историческом и философском, но не педагогическом смысле.

богдановской
источник
8
Это блестящая книга о байесовском мышлении, а не о применении байесовских методов. Я думаю, что это хороший сопутствующий текст к чему-то большему, чем байесовские вычисления.
вероятностная
3
Это хороший способ выразить это. Я думаю, что Sivia и Skilling - идеальный сопутствующий текст для внедрения методов на практике (что уже было предложено в другом ответе).
Богдановист
2
Конечно, занимательно, полемично и оригинально, но определенно не вступительная книга.
Сиань
19

Я инженер-электрик, а не статистик. Я потратил много времени, чтобы пройти через Гельмана, но я не думаю, что можно вообще относиться к Гельману как к вводному. Мой профессор байесианского гуру из Карнеги-Меллона соглашается со мной в этом. обладать минимальными знаниями в области статистики и R и ошибок (как простой способ сделать что-то с байесовской статистикой). Выполнение анализа байесовских данных: учебное пособие с R и BUGS - удивительное начало. Вы можете легко сравнить все предлагаемые книги по обложке!

Обновление спустя 5 лет: я хочу добавить, что, возможно, еще одним важным способом быстрого обучения (40 минут) является изучение документации инструмента, основанного на графическом интерфейсе Bayesian Net, такого как Netica 2 . Он начинается с основ, проводит вас через шаги по построению сети, основанной на ситуации и данных, и как задавать свои вопросы взад и вперед, чтобы «получить это!».

Amir
источник
1
Это дубликат ответа @ rosser выше. Как действительно вводная книга, я добавил +1 к каждой.
Уэйн
16

Он сосредоточен не только на байесовской статистике, поэтому ему не хватает некоторой методологии, но теория информации, логический вывод и алгоритмы обучения Дэвида Маккея заставили меня интуитивно понять байесовскую статистику лучше, чем другие - большинство делает это довольно хорошо, но я чувствовал, что Маккей объяснил, почему лучше.

Джо
источник
6
И его можно бесплатно скачать на странице авторов: inference.phy.cam.ac.uk/mackay/itila/book.html
PeterR
5
Как и в случае с Сивией, это очень хорошо, если у вас есть некоторый физический опыт, а если нет, то может быть грубым Не очень хорошее руководство для какой-либо прикладной социальной статистики (для этого используйте Gelman and Hill или Gelman et al. Выше), но очень полезно для того, чтобы побудить вас по-настоящему задуматься о ключевых вопросах.
сопряженный
16

Все книги Гельмана отличные, но не обязательно вводные, поскольку они предполагают, что вы уже знаете некоторую статистику. Поэтому они представляют собой введение в байесовский способ ведения статистики, а не в статистику в целом. Тем не менее, я все равно дал бы им большие пальцы.

В качестве вводной книги по статистике / эконометрике, в которой рассматривается байесовская перспектива, я бы порекомендовал байесовскую эконометрику Гари Купа .

Грэм Куксон
источник
15

« Байесовское ядро: практический подход к вычислительной байесовской статистике », Марин и Роберт, Springer-Verlag (2007).

«Почему?»: Автор объясняет, почему байесовский выбор и как хорошо. Это практическая книга, но написанная одним из лучших живых байесовских мыслителей. Это не исчерпывающее. Другие книги имеют эту цель. Он поднимает несколько тем, которые актуальны, полезны и освещают основы.

О «выборе»: если вы действительно хотите вникнуть в байесовский фундамент, «Байесовский выбор» Сианя ясен, глубок, важен.

gappy
источник
7
@ Сиань и гэппи, пожалуйста, объясни, почему эту книгу можно рекомендовать. Для кого это подходит? В каком смысле это «лучший»?
whuber
4
Я не хочу впадать в саморекламу. Байесовское ядро ​​представляет собой автономную запись байесовского вывода для наиболее распространенных моделей и вычислительных методов (предоставляются R-коды). Это требует некоторого опыта в теории вероятностей, который может быть слишком большим для некоторых читателей ... (Это хорошо работает с нашими студентами 4-го и 5-го курса во Франции.)
Сиань
14

Мой любимый первый текст для байесовской статистики - Bolstad, Введение в байесовскую статистику . Если вы ищете что-то для выпускников, это будет слишком элементарно, но для тех, кто плохо знаком со статистикой, это идеально.

Роб Лахлан
источник
13

Я не знаю, почему никто не упомянул очень вводную книгу о байесовском:

введите описание изображения здесь

Есть бесплатная версия PDF для книги. Книга предлагает достаточно материала для тех, кто имеет очень мало опыта в байесовском. Он вводит концепцию предварительного распределения, последующего распределения, бета-распределения и т. Д.

Попробуй, это бесплатно.

http://greenteapress.com/thinkbayes/

SmallChess
источник
9

Взгляните на «Байесовский выбор» . Он имеет полный пакет: основы, приложения и вычисления. Четко написано.

Zen
источник
Был бы не только «байесовским», но и «отличным выбором», если бы руководство по решению было доступно для самостоятельного изучения. Кажется, это предназначено только для использования в университете ...
GWR
9

По крайней мере, я взглянул на большинство из них в этом списке, и, по моему мнению, ни один из них не так хорош, как новые Байесовские идеи и анализ данных .

Редактировать: легко сразу начать делать байесовский анализ, читая эту книгу. Не только моделирование среднего из нормального распределения с известной дисперсией, но и фактический анализ данных после первой пары глав. Все примеры кода и данные находятся на сайте книги. Охватывает приличное количество теории, но основное внимание уделяется приложениям. Множество примеров по широкому спектру моделей. Хорошая глава по Байесовской непараметрии. Примеры Winbugs, R и SAS. Я предпочитаю это делать анализ байесовских данных (у меня есть оба). Большинство книг здесь (Гельман, Роберт, ...), на мой взгляд, не являются вводными, и если у вас не будет с кем поговорить, у вас, вероятно, останется больше вопросов, чем ответов. Книга Альберта не охватывает достаточно материала, чтобы чувствовать себя комфортно, анализируя данные, отличные от представленных в книге (опять же мое мнение).

Глен
источник
2
"Хорошо" в каком смысле?
whuber
Хорошая точка зрения. Хорошо, как в лучшем вступительном учебнике по Байесу. Я считаю, что это «лучше», чем Байесовский анализ данных с помощью R Альберта, и я нашел Байесовский анализ данных Gelman et al. не хватает в качестве введения. Однако, после изучения некоторого байесовского материала, это хороший справочник.
Глен
7

Я просто должен включить MCMC на практике . Он предоставляет отличное введение в MCMC, возможно, не такое общее, как упоминалось в других книгах, но отлично подходит для понимания и интуиции. Я рекомендовал бы читать ее после (или параллельно с) байесовским Исчислением с R .

М. Тиббитс
источник
На мой взгляд, Mcmc не должен быть в центре внимания введения в байесовскую статистику. Я думаю, что выборка отклонения более привлекательна как способ понять, как работает байесовское обучение. Кроме того, метод наименьших квадратов является байесовским (как и максимальное правдоподобие), поэтому он также представляет собой более мягкое введение в байесовскую статистику по сравнению с mcmc.
вероятностная
2
Я считаю, что следует избегать использования mcmc и использовать его в качестве крайней меры - в большинстве случаев это просто занимает слишком много времени (хотя я имею дело с большими наборами данных, где все в основном mle). В некоторой степени mcmc - это «кувалда». Также mcmc - это алгоритм для численного интегрирования. Ни больше ни меньше. Он должен получить ту же вводную обработку, что и другие алгоритмы, такие как метод Лапласа и квадратура. В противном случае у людей сложится узкое представление о том, что такое «байесовская статистика».
вероятностная
6

Если вы пришли из физических наук (физика / астрономия), я бы порекомендовал вам Байесовский анализ логических данных для физических наук: сравнительный подход с поддержкой Mathematica® от Gregory (2006).

Хотя часть названия «с поддержкой Mathematica®» предназначена только для коммерческих вопросов (использование кода Mathematica очень плохое), хорошая вещь в этой книге состоит в том, что она действительно представляет собой введение в тему вероятностей и статистики. Там даже есть несколько глав о статистике частых посещений. Однако, как только вы сделаете это, перейдите к книге Гельмана и др. Я рекомендую вам множество людей. Большая часть материала в книге Григория воспринимается легкомысленно (если нет, то это не было бы введением): книга Гельмана была для меня по-настоящему пробужденной от книги Григория.

Нестор
источник
Книга Фила Грегори действительно очень хорошее введение, в некоторой степени похожее на введение Болстада для людей с развитым математическим образованием. На сайте Фила Грегори можно найти больше ресурсов, а также приложение, посвященное иерархическим моделям и обработке отсутствующих данных.
Гвр
6

Я читаю:

Гельман и др. (2013). Байесовский анализ данных. CRC Press LLC. 3-е изд.

Хофф, Питер Д. (2009). Первый курс по байесовским статистическим методам. Тексты Springer в статистике.

Крушке, Анализ байесовских данных: учебное пособие по R и ошибкам, 2011. Academic Press / Elsevier.

и я думаю, что лучше начать с книги Крушке. Он идеально подходит для первого подхода к байесовскому мышлению: концепции объясняются очень четко, математики не так уж много, и есть много хороших примеров!

Гельман и соавт. Это отличная книга, но она более продвинутая, и я предлагаю прочитать ее после книги Крушке.

Наоборот, мне не понравилась книга Хоффа, потому что это вводная книга, но понятия (и байесовское мышление) не объясняются в ясной форме. Я предлагаю перейти.

stochazesthai
источник
6

Если бы я должен был выбрать один текст для начинающего, это было бы

              Sivia DS and Skilling J (2006) book (see below). 

Из всех перечисленных ниже книг он изо всех сил старается дать интуитивное понимание основных идей, но все же требует некоторой математической сложности со страницы 1.

Ниже приведен список дальнейших чтений из моей книги с комментариями к каждой публикации.

Бернардо, JM и Смит, A, (2000) 4. Байесовская теория Строгое изложение байесовских методов со множеством реальных примеров.

Епископ, C ​​(2006) 5. Распознавание образов и машинное обучение. Как следует из названия, речь идет главным образом о машинном обучении, но оно дает ясный и исчерпывающий отчет о байесовских методах.

Cowan G (1998) 6. Статистический анализ данных. Отличное небайесовское введение в статистический анализ.

Dienes, Z (2008) 8. Понимание психологии как науки: введение в научный и статистический вывод. Предоставляет учебный материал по правилу Байеса и ясный анализ различий между байесовской и частной статистикой.

Gelman A, Carlin J, Stern H и Rubin D. (2003) 14. Байесовский анализ данных. Строгий и исчерпывающий отчет о байесовском анализе со множеством реальных примеров.

Джейнс Э. и Бретторст Дж. (2003) 18. Теория вероятностей: логика науки. Современная классика байесовского анализа. Это всеобъемлющее и мудрое. Его дискурсивный стиль делает его длинным (600 страниц), но никогда не скучным, и он полон идей.

Хан, S, 2012, Введение в теорему Байеса. Онлайн-видео по математике Салмана Хана дают хорошее представление о различных темах, включая правило Байеса.

Lee PM (2004) 27. Байесовская статистика: введение. Строгий и всеобъемлющий текст с резким байесовским стилем.

MacKay DJC (2003) 28. Теория информации, логический вывод и алгоритмы обучения. Современная классика по теории информации. Очень читаемый текст, который бродит повсюду по многим темам, почти все из которых используют правило Байеса.

Мигон, HS и Gamerman, D. (1999) 30. Статистический вывод: комплексный подход. Прямое (и четко изложенное) описание вывода, в котором сравниваются байесовский и небайесовский подходы. Несмотря на то, что стиль письма довольно продвинут, он носит обучающий характер.

Пирс JR (1980) 34 2-е издание. Введение в теорию информации: символы, сигналы и шум. Пирс пишет с неформальным, обучающим стилем письма, но не выходит за рамки представления основных теорем теории информации.

Реза Ф.М. (1961) 35. Введение в теорию информации. Более всеобъемлющая и математически строгая книга, чем книга Пирса выше, и в идеале ее следует читать только после первого прочтения более неформального текста Пирса.

Сивия Д.С. и Скиллинг Дж. (2006) 38. Анализ данных: байесовский учебник. Это отличное учебное введение в байесовские методы.

Spiegelhalter, D and Rice, K (2009) 36. Байесовская статистика. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Надежное и исчерпывающее резюме текущего состояния байесовской статистики.

И вот моя книга, опубликованная в июне 2013 года.

Правило Байеса: учебное введение к байесовскому анализу, д-р Джеймс V Стоун, ISBN 978-0956372840

Глава 1 может быть загружена с: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Описание: Обнаруженное математиком и проповедником 18-го века правило Байеса является краеугольным камнем современной теории вероятностей. В этой богато иллюстрированной книге ряд доступных примеров используется, чтобы показать, как правило Байеса на самом деле является естественным следствием здравого смысла. Правило Байеса выводится с использованием интуитивно понятных графических представлений вероятности, а байесовский анализ применяется к оценке параметров с использованием предоставленных программ MatLab. Учебный стиль письма в сочетании со всеобъемлющим глоссарием делает его идеальным учебником для начинающих, которые хотят ознакомиться с основными принципами байесовского анализа.

введите описание изображения здесь

Джим Стоун
источник
4

Не совсем Байесовская статистика как таковая, но я настоятельно рекомендую «Первый курс по машинному обучению» Роджерса и Джиролами, который, по сути, представляет собой введение в байесовские подходы к машинному обучению. Он очень хорошо структурирован и понятен и ориентирован на студентов без сильного математического образования. Это означает, что это довольно хорошее первое знакомство с байесовскими идеями. Есть также код MATLAB / OCTAVE, который является хорошей функцией.

Дикран Сумчатый
источник
4

Байесовская статистика для социальных ученых . Филлипс, Лоуренс Д. (1973), Томас Кроуэлл и Ко. Это очень ясно, очень доступно, не требует никаких статистических знаний, и, в отличие от Болстада, который я нашел сухим, имеет некоторую индивидуальность.

rolando2
источник
3

Эта книга предполагает, что она нацелена на начальный уровень бакалавриата

Биостатистика: байесовское введение. Джордж Дж. Вудсворт.

Опубликовано Джон Вили и сыновья

Грэм Вебстер
источник
2

Так как тип начинающего не указан в вопросе, вот мой совет для начинающих статистиков:

Эндрю Б. Лоусон и Эммануэль Лесаффр (2012): Байесовская биостатистика

Эта книга использовалась на первом курсе нашего курса по статистике, и мне было относительно легко разобраться с таким сложным предметом. Как и в большинстве книг по «биостатистике», примеры в основном представляют собой клиническую биологию, но методы не ограничиваются теми, которые полезны в клинической науке. До этого у нас было около полугода статистического образования, и, кроме теоремы Байеса, байесовская статистика еще не была введена.

Также приятно то, что все 649 слайдов сопровождающих презентаций доступны онлайн .

Франс Роденбург
источник