Есть ли связь между эмпирическим байесовским эффектом и случайными эффектами?

12

Недавно мне довелось прочитать об эмпирическом байесовском опыте (Casella, 1985, Введение в эмпирический анализ байесовских данных), и это выглядело как модель случайных эффектов; в том, что оба имеют оценки, уменьшенные до глобального среднего. Но я не прочитал это полностью ...

Есть ли у кого-нибудь понимание сходства и различий между ними?

анонимный
источник
1
Эмпирический байесовский метод может использоваться в ситуациях со случайными эффектами или без них - EB просто ссылается на байесовские подходы, которые оценивают, исходя из данных, параметры (иногда называемые гиперпараметрами) предыдущего распределения - это метод оценки, тогда как модели случайных эффектов являются подходом к моделирование коррелированных данных. Возможно, пример, который вы видели, включал оценку модели случайных эффектов с использованием эмпирического байесовского алгоритма, и именно поэтому вы связываете их.
Макро
1
Казелла, а не Касселла!
Сиань
2
Основное отличие состоит в том, что модели со случайным эффектом являются моделями (включая случайный эффект), в то время как эмпирические байесовские методы являются методами логического вывода: например, вы можете выполнить эмпирическую байесовскую оценку для модели случайного эффекта ... Эмпирические байесовские методы применяются практически в каждой ситуации. где вы можете использовать обычный метод Байеса, а не только для моделей случайных эффектов.
Сиань

Ответы:

5

В середине 1970-х в JASA была действительно замечательная статья об оценке Джеймса-Стейна и эмпирической оценке Байеса с конкретным приложением для прогнозирования средних показателей бейсбольных игроков. Проницательность, которую я могу дать по этому вопросу, является результатом Джеймса и Стейна, которые к удивлению статистического мира показали, что для многомерного нормального распределения в трех или более измерениях MLE, который является вектором средних координат, недопустимо.

Доказательство было достигнуто, показав, что оценщик, который сужает средний вектор к началу координат, равномерно лучше, основываясь на среднеквадратичной ошибке как функции потерь. Эфрон и Моррис показали, что в многомерной регрессионной задаче с использованием эмпирического байесовского подхода оценки, к которым они приходят, являются оценками усадки типа Джеймса-Стейна. Они используют эту методологию, чтобы предсказать средние показатели финального сезона в бейсболистах высшей лиги на основе их результатов в начале сезона. Оценка сдвигает индивидуальное среднее каждого к общему среднему значению всех игроков.

Я думаю, это объясняет, как такие оценки могут возникать в многомерных линейных моделях. Он не полностью связывает его с какой-либо конкретной моделью смешанных эффектов, но может быть хорошим шагом в этом направлении.

Некоторые ссылки :

  1. B. Efron и C. Morris (1975), Анализ данных с использованием оценки Штейна и ее обобщений , J. Amer. Стат. Доц. том 70, нет. 350, 311–319.
  2. B. Efron и C. Morris (1973), правило оценки Штейна и его конкуренты - эмпирический байесовский подход , J. Amer. Стат. Доц. том 68, нет. 341, 117–130.
  3. Б. Эфрон и С. Моррис (1977), парадокс Штейна в статистике , Scientific American , vol. 236, нет. 5, 119–127.
  4. Г. Казелла (1985), Введение в эмпирический анализ байесовских данных , амер. Статистик , вып. 39, нет 2, 83–87.
Майкл Р. Черник
источник
1
Не полностью связаны, но немного больше о (не) допустимости результатов находятся в этом вопросе .
кардинал
1
Я поместил ссылку на статью, на которую, я думаю, вы ссылаетесь как на пункт (1), под ссылками, но так как Efron & Morris написали целый ряд статей по смежным темам в течение этого периода времени, несколько неясно, кем вы были на самом деле ссылаясь на. Я также попытался настроить некоторые параметры форматирования и правописания. Пожалуйста, проверьте, что я случайно не внес никаких ошибок и не стесняйтесь редактировать дальше или откатить любую из моих.
кардинал
1
В этом посте я разместил ссылки на авторитетные архивы, но некоторые или все статьи можно найти в других (менее стабильных) источниках в Интернете.
кардинал
1
Спасибо за публикацию статьи Эфрона и Морриса. Напоминание о лучших временах, когда Дон Кессинджер, Рон Санто и Билли Уильямс играли за новичков, а Scientific American все еще публиковала статьи, которые стоит прочитать.
Рингольд
1
Совсем недавно появилась монография Брэда Эфрона « Крупномасштабный вывод» . Несмотря на название, все дело в эмпирическом байесовском эффекте! (См. Здесь для моего обзора книги.)
Сиань