Почему модели случайных эффектов требуют, чтобы эффекты не коррелировали с входными переменными, в то время как модели с фиксированными эффектами допускают корреляцию?

11

Из Википедии

Существует два распространенных предположения об индивидуальном конкретном эффекте: предположение о случайных эффектах и ​​предположение о фиксированных эффектах. Предположение о случайных эффектах (сделанное в модели случайных эффектов) заключается в том, что отдельные конкретные эффекты не связаны с независимыми переменными. Предположение о фиксированном эффекте состоит в том, что индивидуальный специфический эффект коррелирует с независимыми переменными. Если предположение о случайных эффектах справедливо, модель случайных эффектов более эффективна, чем модель с фиксированными эффектами. Однако, если это предположение не выполняется (т. Е. Если тест Дурбина – Ватсона не выполняется), модель случайных эффектов не является согласованной.

Мне было интересно, почему модели случайных эффектов требуют, чтобы случайные эффекты были некоррелированными с входными переменными, в то время как модели с фиксированными эффектами позволяют коррелировать эффекты с входной переменной?

Спасибо!

Тим
источник

Ответы:

18

Когда вы включаете любую переменную в регрессию, ее коэффициент оценивается с учетом всех остальных переменных в модели. Если переменная коррелирует с другой переменной, которая не включена в вашу модель, ее коэффициент не может быть оценен с учетом того, что пропущенная переменная постоянна. Это приводит к отсутствию смещения переменных.

Подход с фиксированными эффектами добавляет переменные в модель, представляющие интересы отдельных лиц или групп. В результате другие коэффициенты в модели могут быть рассчитаны с фиксированным значением для отдельного лица или группы. Это известно как внутренняя (индивидуальная или групповая) оценка.

Подход случайных эффектов не добавляет переменные в модель, представляющую отдельных лиц или группы. Вместо этого он моделирует структуру корреляций слагаемых ошибок. По сути, случайный эффект рассматривается как непредсказуемый параллельный сдвиг в линии регрессии, и этот же сдвиг применяется ко всем наблюдениям для конкретного человека или группы. Это приводит к тому, что все это в рамках индивидуальных или групповых наблюдений коррелирует. Случайные эффекты моделируют эту корреляцию.

Модель случайного эффекта в основном исключает фиксированный эффект и преодолевает это упущение, моделируя структуру ошибки. Это хорошо, если пропущенный фиксированный эффект не связан ни с какими включенными переменными. Как обсуждалось выше, такие пропущенные переменные приводят к смещенным оценкам коэффициентов.

Преимущество исключения фиксированных эффектов, как это делает процедура случайных эффектов, состоит в том, что переменные, которые не изменяются в наблюдениях отдельного лица или группы, не могут быть включены с фиксированными эффектами из-за мультиколлинеарности; случайные эффекты - единственный способ оценить коэффициенты для таких переменных.

Чарли
источник
Что вы думаете о моделировании предполагаемого фиксированного эффекта как функции не зависящих от времени переменных?
Дмитрий Васильевич Мастеров
@Tim Можете ли вы принять этот ответ и пометить эту ветку как ответившую?
Шарлотта R
Нет, модели случайных эффектов определенно включают переменные, представляющие людей или группы. Они просто подвержены усадке. Смотрите, например, этот ответ: stats.stackexchange.com/a/111896/11646
Пол
4

Из того, что я знаю, случайные эффекты - это своего рода расширение модели OLS, в которой константа включена в вектор регрессоров, а ошибка состоит как из ненаблюдаемого эффекта (инварианта времени), так и из наблюдаемой ошибки ( вариант времени).

Я не очень хорошо знаю, как ответить на ваш вопрос, но я бы просто сказал, что модели RE требуют, чтобы ошибка не коррелировала с независимыми переменными, потому что, если они коррелированы, это означает, что вы находитесь в случае, когда оценки FE более подходящий. Вы можете проверить, какой из них лучше интерпретирует ваш набор данных, выполнив тест Хаусмана, как только вы запустите регрессию с обеими спецификациями.

Это из эконометрического анализа данных поперечного сечения и панелей по Вулдриджу:

введите описание изображения здесь

(...)

введите описание изображения здесь

Герман Хаугланд
источник