Идея смешанной модели и байесовский метод

В смешанной модели мы предполагаем, что случайные эффекты (параметры) являются случайными величинами, которые следуют нормальному распределению. Это выглядит очень похоже на байесовский метод, в котором все параметры предполагаются случайными.

Так является ли модель случайных эффектов частным случаем байесовского метода?

Это хороший вопрос. Строго говоря, использование смешанной модели не делает вас байесовским. Представьте себе, что вы оцениваете каждый случайный эффект отдельно (рассматриваете его как фиксированный эффект), а затем смотрите на получающееся распределение. Это «грязно», но концептуально у вас есть распределение вероятностей по случайным эффектам, основанное на концепции относительной частоты .

Но если вы, как частый участник, подходите к своей модели с максимальной вероятностью, а затем хотите «оценить» случайные эффекты, у вас есть небольшое осложнение. Эти величины не являются фиксированными, как ваши типичные параметры регрессии, поэтому лучшим словом, чем «оценка», вероятно, будет «прогноз». Если вы хотите предсказать случайный эффект для данного субъекта, вы захотите использовать данные этого субъекта. Вам нужно прибегнуть к правилу Байеса или хотя бы к понятию, что

$$f(\beta_i | \mathbf{y}_i) \propto f(\mathbf{y}_i | \beta_i) g(\beta_i).$$ работает по существу как предыдущий. И я думаю, что к этому моменту многие люди назовут это «эмпирическим байесовским».$g()$

Чтобы быть истинным байесовским, вам нужно было бы указать не только распределение для ваших случайных эффектов, но и распределения (априоры) для каждого параметра, который определяет это распределение, а также распределения для всех параметров с фиксированными эффектами и модели epsilon. Это довольно интенсивно!

Случайные эффекты - это способ указать предположение о распределении, используя условные распределения. Например, случайная однофакторные дисперсионный анализ модель:

$$(y_{ij} \mid \mu_i) \sim_{\text{iid}} {\cal N}(\mu_i, \sigma^2_w), \quad j=1,\ldots,J, \qquad \mu_i \sim_{\text{iid}} {\cal N}(\mu, \sigma^2_b), \quad i=1,\ldots,I.$$ $$\begin{pmatrix} y_{i1} \\ \vdots \\ y_{iJ} \end{pmatrix} \sim_{\text{iid}} {\cal N}\left(\begin{pmatrix} \mu \\ \vdots \\ \mu \end{pmatrix}, \Sigma\right), \quad i=1,\ldots,I$$ $\Sigma$$\sigma^2_b+\sigma^2_w$$\sigma^2_b$$\mu$$\Sigma$

Если вы говорите с точки зрения воспроизведения одних и тех же ответов, тогда ответ - да. Метод вычисления INLA (google "inla bayesian") для байесовских GLMM, объединенный с унифицированным априором для фиксированных эффектов и параметров дисперсии, в основном воспроизводит выходные данные EBLUP / EBLUE в гауссовском приближении "простой подключаемый модуль", где оцениваются параметры дисперсии через REML.

Я так не думаю, я считаю это частью функции правдоподобия. Это похоже на указание термина ошибки, следующего за нормальным распределением в регрессионной модели, или определенный двоичный процесс может быть смоделирован с использованием логистических отношений в GLM.

Поскольку никакая предварительная информация или распределения не используются, я не считаю это байесовским.