Когда байесовские методы предпочтительнее, чем Frequentist?

Я действительно хочу узнать о методах Байеса, поэтому я пытался немного научить себя. Тем не менее, мне трудно понять, когда использование байесовских методов дает преимущество перед методами Frequentist. Например: я видел в литературе немного о том, как некоторые используют информативные приоры, в то время как другие используют неинформативные априорные. Но если вы используете неинформативный априор (который кажется действительно распространенным?) И вы обнаружите, что апостериорный дистрибутив, скажем, бета-дистрибутив ... разве вы не могли просто подогнать бета-дистрибутив в начале и назвали это хорошо? Я не понимаю, как построить предыдущий дистрибутив, который ничего вам не говорит ... может, ну, на самом деле, сказать вам что-нибудь?

Оказывается, некоторые методы, которые я использовал в R, используют смесь байесовских и частотных методов (авторы признают, что это несколько противоречиво), и я даже не могу различить, какие части байесовские. Помимо подгонки распределения, я даже не могу понять, КАК вы бы использовали байесовские методы. Есть ли "байесовская регрессия"? Как это будет выглядеть? Все, что я могу себе представить, это гадать о лежащем в основе распределении снова и снова, пока Frequentist обдумывает некоторые данные, смотрит им в глаза, видит распределение Пуассона и запускает GLM. (Это не критика ... Я просто не понимаю!)

Так что ... может быть, помогут некоторые элементарные примеры? И если вы знаете некоторые практические рекомендации для настоящих новичков, таких как я, это тоже будет очень полезно!

Вот несколько ссылок, которые могут вас заинтересовать, сравнивая частые и байесовские методы:

• http://www.stat.ufl.edu/archived/casella/Talks/BayesRefresher.pdf
  • Архивируется здесь: https://web.archive.org/web/20140308021414/https://stat.ufl.edu/archived/casella/Talks/BayesRefresher.pdf
• http://www.bayesian-inference.com/advantagesbayesian
• http://www.researchgate.net/post/Bayesian_vs_frequentist_statistics2

В двух словах, насколько я понял, учитывая конкретный набор данных, частый человек считает, что существует истинное, базовое распределение, из которого были сгенерированы указанные данные. Невозможность получить точные параметры является функцией конечного размера выборки. Байесовский, с другой стороны, думает, что мы начинаем с некоторого предположения о параметрах (даже если неосознанно) и используем данные, чтобы уточнить наше мнение об этих параметрах. Оба пытаются разработать модель, которая может объяснить наблюдения и сделать прогнозы; Разница в допущениях (как реальных, так и философских). В качестве содержательного, не строгого утверждения можно сказать, что частый участник считает, что параметры являются фиксированными, а данные случайными; Байесовский считает, что данные являются фиксированными, а параметры являются случайными. Что лучше или предпочтительнее? Чтобы ответить, что вы должны копаться и понимать, простокакие допущения каждый влечет за собой (например, являются ли параметры асимптотически нормальными?).

Один из многих интересных аспектов контрастов между этими двумя подходами состоит в том, что очень трудно иметь формальную интерпретацию для многих величин, которые мы получаем в частотной области. Одним из примеров является все возрастающее значение методов наказания (усадка). Когда кто-либо получает штрафные оценки максимального правдоподобия, оценки смещенной точки и «доверительные интервалы» очень трудно интерпретировать. С другой стороны, байесовское апостериорное распределение для параметров, которые штрафуются в сторону нуля с использованием предварительного распределения, сосредоточенного вокруг нуля, имеют полностью стандартные интерпретации.

Я краду эту оптовую торговлю из группы пользователей Stan. Майкл Бетанкур предоставил эту действительно хорошую дискуссию об опознаваемости в байесовском умозаключении, которая, как я полагаю, имеет отношение к вашей просьбе о контрасте двух статистических школ.

Первым отличием байесовского анализа будет наличие априоров, которые, даже будучи слабыми, будут ограничивать апостериорную массу для этих 4 параметров в конечную окрестность (иначе у вас не было бы действительного априора в первую очередь). Несмотря на это, вы все равно можете иметь неидентифицируемость в том смысле, что апостериорные не будут сходиться к точечной массе в пределе бесконечных данных. В очень реальном смысле, однако, это не имеет значения, потому что (а) бесконечный предел данных не является реальным в любом случае и (б) байесовский вывод не сообщает точечные оценки, а скорее распределения. На практике такая неидентифицируемость приведет к большим корреляциям между параметрами (возможно, даже к невыпуклости), но надлежащий байесовский анализ идентифицирует эти корреляции. Даже если вы сообщаете маргинальные значения одного параметра, вы '

$\mu_1$$\mu_2$$\mathcal{N}(x | \mu_1 + \mu_2, \sigma)$$\mu_1 + \mu_2 = 0$$\mu_1$$\mu_2$

$\mu_1$$\mu_2$$\mu_1$$\mu_2$

Ключевое различие между байесовским и частотным подходами заключается в определении вероятности, поэтому, если необходимо строго относиться к вероятностям как к долгосрочной частоте, то подходы к частоте разумны, если нет, то следует использовать байесовский подход. Если любая интерпретация приемлема, то байесовский и частый подходы, вероятно, будут разумными.

Иначе говоря, если вы хотите знать, какие выводы вы можете сделать из конкретного эксперимента, вы, вероятно, хотите быть байесовским; если вы хотите сделать выводы о некоторой совокупности экспериментов (например, контроль качества), то методы с частыми данными хорошо подходят.

По сути, важно знать, на какой вопрос вы хотите получить ответ, и выбрать форму анализа, которая отвечает на этот вопрос наиболее непосредственно.