Байесовский оценщик невосприимчив к смещению отбора

Являются ли оценки Байеса невосприимчивыми к смещению отбора?

В большинстве работ, в которых обсуждаются оценки в высоком измерении, например, данные о последовательности всего генома, часто возникает проблема смещения отбора. Смещение выбора обусловлено тем фактом, что, хотя у нас есть тысячи потенциальных предикторов, будет выбрано лишь немногие, и для избранных будет сделан вывод. Таким образом, процесс состоит из двух этапов: (1) выбрать подмножество предикторов (2) выполнить вывод на выбранных наборах, например, оценить коэффициенты шансов. Давид в своей парадоксальной статье 1994 года сосредоточился на объективных оценках и оценках Байеса. Он упрощает задачу выбора самого большого эффекта, который может быть эффектом лечения. Затем он говорит, что объективные оценки влияют на предвзятость выбора. Он использовал пример: предположим, что затем каждый

$$Z_i\sim N(\delta_i,1),\quad i=1,\ldots,N$$ $Z_i$ беспристрастен для . Пусть , оценка смещена ( положительно) для \ max \ {\ delta_1, \ delta_2, \ ldots, \ delta_N \} . Это утверждение легко проверить с помощью неравенства Дженсена. Поэтому, если бы мы знали i _ {\ max} , индекс наибольшего \ delta_i , мы просто будем использовать Z_ {i _ {\ max}} в качестве его оценки, которая является беспристрастной. Но поскольку мы этого не знаем, вместо этого мы используем \ gamma_1 (\ mathbf {Z}), который становится смещенным (положительно).Z = ( Z 1 , Z 2 , … , Z N ) T γ 1 ( Z ) = max { Z 1 , Z 2 , … , Z N } max { δ 1 , δ 2 , … , δ N } i max δ i Z i max γ 1 ( $\delta_i$$\mathbf{Z}=(Z_1,Z_2,\ldots,Z_N)^T$ $$\gamma_1(\mathbf{Z})=\max\{Z_1,Z_2,\ldots,Z_N\}$$ $\max\{\delta_1,\delta_2,\ldots,\delta_N\}$$i_{\max}$$\delta_i$$Z_{i_{\max}}$$\gamma_1(\mathbf{Z})$

Но тревожное заявление, которое делают Давид, Эфрон и другие авторы, заключается в том, что оценщики Байеса неуязвимы для предвзятости выбора. Если я теперь поставлю перед , скажем, , оценка Байеса для определяется как где , с стандартным гауссовским.δ i ∼ g ( . ) δ i E { δ i ∣ Z i } = z i + $\delta_i$$\delta_i\sim g(.)$$\delta_i$м(гя)=∫ф(гя-δя)г(δя)dδяф(.

$$\text{E}\{\delta_i\mid Z_i\}=z_i+\frac{d}{dz_i}m(z_i)$$ $m(z_i)=\int \varphi(z_i-\delta_i)g(\delta_i)d\delta_i$$\varphi(.)$

Если мы определим новый оценщик как все , что вам выбрать для оценки с , будет тем же если выбор был основан на Это следует из того, что является монотонным в . Мы также знаем, что сокращает до нуля с помощью термина γ 2 ( Z ) = max { E { δ 1 ∣ Z 1 } , E { δ 2 ∣ Z 2 } , … , E { δ N ∣ Z N } } , i δ i max γ 1 ( Z ) i γ 2 ( Z ) γ 2 ( Z$\delta_{i_{\max}}$

$$\gamma_2(\mathbf{Z})=\max\{\text{E}\{\delta_1\mid Z_1\},\text{E}\{\delta_2\mid Z_2\},\ldots,\text{E}\{\delta_N\mid Z_N\}\},$$ $i$$\delta_{i_{\max}}$$\gamma_1(\mathbf{Z})$$i$$\gamma_2(\mathbf{Z})$$\gamma_2(\mathbf{Z})$$Z_i$$\text{E}\{\delta_i\mid Z_i\}$$Z_i$$\frac{d}{dz_i}m(z_i)$что уменьшает часть положительного смещения в . Но как мы можем сделать вывод, что байесовские оценки невосприимчивы к смещению отбора. Я действительно не понимаю.$Z_i$

Как описано выше, проблема заключается в выводе из индекса и значения (i⁰, µ⁰) наибольшего среднего значения выборки нормальных rvs. Что меня удивляет в презентации Давида, так это то, что байесовский анализ звучит не так уж много байесовским анализом. Если задана вся выборка, то байесовский подход должен давать апостериорное распределение по (i⁰, µ⁰), а не следовать этапам оценки, от оценки i⁰ до оценки ассоциированного среднего значения. И если необходимо, оценщики должны исходить из определения конкретной функции потерь. Когда вместо этого задается самая большая точка в выборке и только эта точка, ее распределение меняется, поэтому я довольно удивлен утверждением о том, что никакая корректировка не требуется.

Предыдущее моделирование также довольно удивительно в том смысле, что априорные значения на средстве должны быть совместными, а не продуктом независимых норм, поскольку эти средства сравниваются и, следовательно, сравнимы. Например, иерархический априор кажется более подходящим, с местоположением и масштабом, чтобы быть оцененным из целых данных. Создание связи между средствами ... Соответствующее возражение против использования независимых неправильных априорных значений заключается в том, что максимальное среднее значение μ⁰ не имеет четко определенной меры. Тем не менее, я не думаю, что критика одних приоров против других является уместной атакой на этот «парадокс».

Даже если это немного нелогично, утверждение верно. Предположим, что для этого эксперимента, тогда апостериор для действительно равен . Этот нелогичный факт немного похож на то, что Байес неуязвим для (секретного) раннего прекращения (что также очень нелогично).μ 5 N ( x 5 , σ 2$i^*=5$$\mu_5$$N(x_5,\sigma^2)$

Байесовские рассуждения привели бы к ложным выводам, если для каждого такого эксперимента (представьте, что вы повторите это несколько раз), будут сохранены только результаты для лучшего сорта. Будет выбор данных, и байесовские методы явно не защищены от (секретного) выбора данных. На самом деле ни один статистический метод не застрахован от отбора данных.

Если бы такой выбор был сделан, полное байесовское рассуждение, учитывающее этот выбор, легко исправило бы иллюзию.

Однако предложение "Байесовская оценка невосприимчив к смещению выбора" немного опасно. Легко представить себе ситуации, когда «выбор» означает что-то другое, например, выбор пояснительных переменных или выбор данных. Байес явно не застрахован от этого.