Объективные и субъективные байесовские парадигмы

В чем разница между объективными и субъективными байесовскими парадигмами?
Какие объекты или процедуры они определяют или интерпретируют по-разному?
Есть ли разница в выборе методов?

$^\dagger$ Это делает еще более запутанным тот факт, что существует класс «субъективизма», который коренится в предварительном выявлении экспертов, и этот конкретный вариант должен тщательно вписываться в философскую категоризацию парадигм. Я попытаюсь внести некоторую ясность в этот вопрос, изложив некоторые различные способы, которыми часто интерпретируется «субъективизм», а затем излагая широкие области согласия среди байесов и области, где существуют расхождения в философских и практических подходах. Я ожидаю, что найдутся другие, которые не согласятся с моими собственными взглядами на это, но я надеюсь, что это станет хорошей отправной точкой для ясного обсуждения.

Слабый субъективизм. В этой интерпретации термин «субъективный» используется в более слабом смысле, означая лишь то, что вероятность заключает в себе рациональные убеждения субъекта. (Некоторые люди, такие как я, предпочитают использовать термин «эпистемология» для этой концепции, поскольку она не требует субъективности в более сильном смысле.)

Сильный субъективизм. В этой интерпретации термин «субъективный» используется в его более сильном смысле, означающем, что слабый субъективизм имеет место, и, кроме того, в убеждении субъекта отсутствует какое-либо внешнее «объективное» обоснование (т. Е. Два или более разных субъекта могут иметь разные убеждения, и ни одно из них не будет считаться более или менее неправильным, чем другие).

В байесовском анализе это обычно тот случай, когда выбранное распределение выборки имеет объективное обоснование, основанное на некотором понимании механизма выборки. Однако редко имеется какая-либо доступная информация, относящаяся к параметру, кроме как в данных образца. Это приводит к трем широким парадигмам в байесовской статистике, которые соответствуют различным способам определения предыдущего распределения.

Субъективная байесовская парадигма: эта парадигма согласуется со слабым субъективизмом и далее считает, что любой набор вероятностных убеждений одинаково действителен. Пока субъекты используют байесовское обновление для новых данных, правомерно использовать любые предыдущие. Согласно этой парадигме, предшествующее не требует какого-либо объективного обоснования. В этой парадигме основное внимание уделяется раскрытию ранее использованного, а затем показывается, как это обновляется с новыми данными. В этом методе обычно используется анализ чувствительности, показывающий апостериорные убеждения в рамках ряда предшествующих убеждений.

Объективная байесовская парадигма:Эта парадигма также согласуется со слабым субъективизмом, но предпочитает дополнительно ограничивать прежние убеждения (до включения каких-либо данных), чтобы они объективно «не информативны» в отношении параметра. В этой парадигме априор должен точно отражать отсутствие доступной информации, относящейся к параметру, вне данных. Обычно это влечет за собой принятие некоторой теории о том, как установить априор (например, эталонные приоры Джеффри, Джейнса, Бернардо и т. Д.). Эта парадигма считает, что набор вероятностных убеждений должен быть предпочтительным, если он основан на предварительном убеждении, которое объективно детерминированный и неинформативный о параметрах в задаче интереса. Он согласен с тем, что любой набор вероятностных убеждений соответствует критериям рациональности, лежащим в основе байесовского анализа, но считает, что убеждения, основанные на «плохих» априорах (слишком информативных по неизвестному параметру), хуже, чем убеждения, основанные на «хороших» априорах. В этой парадигме априор выбирается из некоторого неинформативного класса, а затем обновляется новыми данными, чтобы дать объективный ответ на проблему.

Байесовская парадигма предшествующего эксперта:Этот метод часто рассматривается как часть субъективной парадигмы и обычно не идентифицируется отдельно, но я считаю его отдельной парадигмой, потому что он имеет элементы каждого представления. Эта парадигма согласуется со слабым субъективизмом, но, как и объективная байесовская парадигма, она не рассматривает все приоры как одинаково действительные. Эта парадигма рассматривает нынешние «априоры» как предшественников из предыдущего жизненного опыта и, таким образом, считает, что предыдущие убеждения экспертов по предмету превосходят предыдущие убеждения неспециалистов. В нем также признается, что эти убеждения, вероятно, основаны на данных, которые не были систематически зарегистрированы, и не основаны на систематическом использовании теории вероятностей, поэтому невозможно разложить эти существующие экспертные априоры на исходный неинформативный априор и данные что этот эксперт заметил. (И действительно, в отсутствие систематического использования теории вероятностей нынешний «предшествующий» эксперт, вероятно, даже не согласуется с байесовским обновлением.) В этой парадигме нынешнее «субъективное» мнение эксперта трактуется как ценная инкапсуляция предметных знаний, которая рассматривается как примитивный приор. В этой парадигме аналитик стремится выявить эксперта заранее с помощью некоторых тестов предшествующего убеждения, а затем формулируется предшествующее как наилучшее соответствие этому убеждению эксперта (заботясь о том, чтобы убеждение эксперта не было загрязнено знанием настоящего данные). Таким образом, «субъективное» убеждение эксперта трактуется как «объективная» инкапсуляция предметных знаний из предыдущих данных. В этой парадигме настоящее «субъективное» мнение эксперта трактуется как ценная инкапсуляция предметных знаний, которые рассматриваются как примитивный априор. В этой парадигме аналитик стремится выявить эксперта заранее с помощью некоторых тестов предшествующего убеждения, а затем формулируется предшествующее как наилучшее соответствие этому убеждению эксперта (заботясь о том, чтобы убеждение эксперта не было загрязнено знанием настоящего данные). Таким образом, «субъективное» убеждение эксперта трактуется как «объективная» инкапсуляция предметных знаний из предыдущих данных. В этой парадигме настоящее «субъективное» мнение эксперта трактуется как ценная инкапсуляция предметных знаний, которые рассматриваются как примитивный априор. В этой парадигме аналитик стремится выявить эксперта заранее с помощью некоторых тестов предшествующего убеждения, а затем формулируется предшествующее как наилучшее соответствие этому убеждению эксперта (заботясь о том, чтобы убеждение эксперта не было загрязнено знанием настоящего данные). Таким образом, «субъективное» убеждение эксперта трактуется как «объективная» инкапсуляция предметных знаний из предыдущих данных. и затем формулируется предварительный вариант, как наиболее подходящий для этого экспертного убеждения (заботясь о том, чтобы экспертное мнение не было загрязнено знанием настоящих данных). Таким образом, «субъективное» убеждение эксперта трактуется как «объективная» инкапсуляция предметных знаний из предыдущих данных. и затем формулируется предварительный вариант, как наиболее подходящий для этого экспертного убеждения (заботясь о том, чтобы экспертное мнение не было загрязнено знанием настоящих данных). Таким образом, «субъективное» убеждение эксперта трактуется как «объективная» инкапсуляция предметных знаний из предыдущих данных.

Различия в методе. С точки зрения метода, объективная байесовская парадигма отличается от субъективной парадигмы в той мере, в которой первая ограничивает допустимые приоры (либо уникальным предшествующим, либо очень небольшим классом похожих приоров), тогда как вторая не ограничивает допустимую. приоры. В объективном байесовском подходе априор ограничен теориями представления «неинформативного» априора. Парадигма предшествующего эксперта использует другой подход и вместо этого определяет одного или нескольких людей, которые являются экспертами, и выявляет их прежние убеждения.

Как только мы поймем это различное значение различных парадигм в байесовской статистике, мы сможем определить некоторые области широкого согласия и области, в которых существуют разногласия. На самом деле, несмотря на различия в методах, есть больше согласия по основным теориям, чем обычно оценивается.

Широкое согласие по поводу слабого субъективизма: в байесовской статистике существует большая литература, показывающая, что «аксиомы» вероятности могут быть получены из предварительных данных, касающихся рационального принятия решений. Это включает в себя аргументы, относящиеся к динамической последовательности убеждений (см., Например, Эпштейн и Ле Бретон 1993 ), аргументы, апеллирующие к теореме голландской книги (см., Например, Lehmann 1955 , Hajek 2009). Байесовцы всех этих парадигм широко согласны с тем, что вероятность следует интерпретировать эпистемологически, как относящуюся к убеждениям субъекта, ограниченным ограничениями рациональности, присущими аксиомам вероятности. Мы согласны с тем, что следует использовать правила вероятности, чтобы ограничить свои убеждения относительно неопределенности, чтобы быть рациональными. Это подразумевает, что представления о неопределенности требуют байесовского обновления перед лицом новых данных, но это не накладывает каких-либо дополнительных ограничений (т. Е. Без большего, оно не говорит о том, что какой-либо априор лучше любого другого априора). Все три из вышеперечисленных парадигм согласны с этим.

$^{\dagger \dagger}$

Существует широкое согласие, что существуют приблизительные «объективные» правила для приоров, которые доступны, если вы хотите их использовать :В байесовской статистике существует большой объем литературы, показывающей, как вы можете разработать «неинформативные» априоры, которые примерно определены проблемой выборки и примерно инкапсулируют отсутствие больших знаний о рассматриваемом параметре. Я говорю «грубо», потому что здесь есть несколько конкурирующих теорий, которые иногда соответствуют, но иногда немного отличаются (например, Джеффри, Джейнс, эталонные приоры, классы неточных приоров Уолли и т. Д.), И также могут возникнуть некоторые хитрые парадоксы. Самая сложная проблема здесь заключается в том, что трудно создать «неинформативный» априор для непрерывного параметра, который может быть подвергнут нелинейным преобразованиям (поскольку «неинформативность» в идеале должна быть инвариантной к преобразованиям). Опять же, это теоремы вероятности, и все парадигмы согласуются с их содержанием. Объективные байесовцы склонны рассматривать эту теорию как достаточно хорошую, чтобы она давала превосходные приоры, в то время как субъективные байесовские и предшествующие эксперту байесовцы склонны рассматривать теорию как недостаточную для установления превосходства этих приоров. Другими словами, существует широкое согласие о том, что эти объективные правила существуют и могут использоваться, но существуют разногласия по поводу того, насколько они хороши.

Существует разногласие по поводу важности наличия единственного ответа: объективные байесовские мотивы мотивируются тем, что статистическая проблема с фиксированными данными и фиксированной функцией правдоподобия должна приводить к однозначно определенному апостериорному убеждению (или, по крайней мере, к небольшому числу допустимых апостериорных убеждений). которые меняются очень мало). Это предпочтение обычно является частью более широкого предпочтения наличия научных процедур, которые дают уникальный ответ при применении к фиксированным наборам объективных условий. Напротив, как субъективные байесовские, так и опытные байесовские эксперты полагают, что это не особенно важно, и они, как правило, считают, что этот акцент на уникально определенном апостериуме фактически вводит в заблуждение.

Существует широкое согласие о том, что публика не очень хорошо знакома с байесовскими авторами: все парадигмы согласны с тем, что широкая публика не очень хорошо знакома с основной механикой того, как байесовский анализ переходит от предшествующего к последнему. Объективно Байесовцы иногда беспокоятся о том, что предоставление более одного допустимого ответа на задний план может сбить людей с толку. Субъективные байесовцы обеспокоены тем, что неспособность дать более одного допустимого ответа на задний вопрос вводит людей в заблуждение.

$^\dagger$

$^{\dagger \dagger}$