Общие статистические тесты как линейные модели

(ОБНОВЛЕНИЕ: я углубился в это и разместил результаты здесь )

Список названных статистических тестов огромен. Многие из общих тестов основаны на выводе из простых линейных моделей, например, t-критерий с одной выборкой - это просто y = β + ε, который проверяется на нулевой модели, y = μ + ε, т. Е. На том, что β = μ, где μ - некоторый нуль значение - обычно μ = 0.

Я считаю, что это несколько более поучительно для учебных целей, чем нарочное изучение названных моделей, когда их использовать, и их предположений, как будто они не имеют никакого отношения друг к другу. Такой подход способствует не способствует пониманию. Однако я не могу найти хороший ресурс, собирающий это. Меня больше интересует эквивалентность между базовыми моделями, а не метод вывода из них. Хотя, насколько я вижу, тесты отношения правдоподобия на всех этих линейных моделях дают те же результаты, что и «классический» вывод.

Вот эквиваленты, о которых я узнал до сих пор, игнорируя термин ошибки и предполагая, что все нулевые гипотезы являются отсутствием эффекта:$\varepsilon \sim \mathcal N(0, \sigma^2)$

T-тест для одной выборки: .$y = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

T-критерий парных выборок: $y_2-y_1 = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

Это идентично t-критерию с одним образцом для парных разностей.

T-тест из двух выборок: $y = \beta_1 * x_i + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

где х - показатель (0 или 1).

Корреляция Пирсона: $y = \beta_1 * x + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Обратите внимание на сходство с t-тестом из двух выборок, который представляет собой просто регрессию на двоичной оси X.

Корреляция Спирмена: $rank(y) = \beta_1 * rank(x) + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Это идентично корреляции Пирсона для рангово-преобразованных х и у.

Односторонний ANOVA: $y = \beta_1*x_1 + \beta_2*x_2 + \beta_3*x_3 +... \qquad \mathcal{H}_0: \beta_1, \beta_2, \beta_3, ... = \beta$

где - индикаторы, выбирающие соответствующую (один равен 1; остальные 0). Модель, вероятно , можно записать в матричном виде , как .$x_i$$\beta$$x$$Y = \beta * X$

Двухсторонний ANOVA: $y = \beta_1 * X_1 + \beta_2 * X_2 + \beta_3 * X_1 * X_2 \qquad \mathcal{H}_0: \beta_3 = 0$

для двух двухуровневых факторов. Здесь - векторы бета, где один выбран вектором индикатора . , показанный здесь эффект взаимодействия.$\beta_i$$X_i$$\mathcal{H}_0$

Можем ли мы добавить больше «именованных тестов» в этот список линейных моделей? Например, многомерная регрессия, другие «непараметрические» тесты, биномиальные тесты или RM-ANOVA?

ОБНОВЛЕНИЕ: вопросы о ANOVA и t-тестах были заданы и даны ответы здесь как на SO. Смотрите этот вопрос и помеченные связанные вопросы .

Не исчерпывающий список, но если вы включите обобщенные линейные модели, объем этой проблемы становится значительно больше.

Например:

Тест Cochran-Armitage тренда может быть сформулирован:

Тест хи-квадрат Пирсона независимости для таблицу сопряженности$p \times k$ является лог-линейной модели для частот клеток определяется по формуле:

Кроме того, t-критерий для неравных отклонений хорошо аппроксимируется с помощью робастной оценки погрешности Хьюбера Уайта.