Почему t-распределение становится более нормальным с увеличением размера выборки?

Я постараюсь дать интуитивное объяснение.

Т-статистика * имеет числитель и знаменатель. Например, статистика в одном образце t-критерия

\frac{\bar{x} - μ_{0}}{s / \sqrt{n}}

$\frac{\bar{x}-\mu_0}{s/\sqrt{n}}$

* (их несколько, но, надеюсь, эта дискуссия должна быть достаточно общей, чтобы охватить те, о которых вы спрашиваете)

Согласно допущениям, числитель имеет нормальное распределение со средним значением 0 и некоторым неизвестным стандартным отклонением.

При том же наборе допущений знаменатель является оценкой стандартного отклонения распределения числителя (стандартная ошибка статистики в числителе). Он не зависит от числителя. Его квадрат является случайной величиной хи-квадрат, деленной на ее степени свободы (которая также является df от t-распределения), умноженную на . $\sigma_\text{numerator}$

Когда степени свободы являются маленькими, знаменатель имеет тенденцию быть довольно правильным. У него высокий шанс быть меньше среднего и относительно хороший шанс быть совсем маленьким. В то же время, он также имеет некоторый шанс быть намного, намного больше, чем его среднее значение.

В предположении нормальности числитель и знаменатель независимы. Таким образом, если мы случайным образом извлекаем из распределения этой t-статистики, мы получим нормальное случайное число, разделенное на второе случайно * выбранное значение из распределения с перекосом вправо, которое в среднем составляет около 1.

* без учета нормального срока

Поскольку он находится в знаменателе, малые значения в распределении знаменателя дают очень большие значения t. Отклонение вправо в знаменателе делает статистику тяжеловесной. Правый хвост распределения, когда на знаменателе делает распределение t более резким, чем нормаль с тем же стандартным отклонением, что и t .

Однако по мере того, как степени свободы становятся большими, распределение становится намного более нормальным и намного более «узким» вокруг своего среднего значения.

введите описание изображения здесь

Таким образом, эффект деления на знаменатель на форму распределения числителя уменьшается с увеличением степеней свободы.

В конце концов - как может предположить нам теорема Слуцкого, - эффект знаменателя становится более похожим на деление на константу, а распределение t-статистики очень близко к норме.

Рассматривается с точки зрения взаимности знаменателя

В комментариях Уабер высказал предположение, что было бы более поучительно взглянуть на взаимность знаменателя. То есть мы могли бы написать нашу t-статистику в виде числителя (нормальное) раз обратного знаменателя (наклон вправо).

Например, наша статистика за одну выборку t будет такой:

\sqrt{n} (\bar{x} - μ_{0}) \cdot 1 / s

${\sqrt{n}(\bar{x}-\mu_0)}\cdot{1/s}$

Теперь рассмотрим стандартное отклонение популяции исходного , . Мы можем умножить и разделить на это, вот так: $X_i$ $\sigma_x$

\sqrt{n} (\bar{x} - μ_{0}) / σ_{x} \cdot σ_{x} / s

${\sqrt{n}(\bar{x}-\mu_0)/\sigma_x}\cdot{\sigma_x/s}$

Первый член стандартно нормален. Затем второе слагаемое (квадратный корень из масштабированной случайной величины с обратным хи-квадратом) масштабирует этот стандартный нормаль значениями, которые больше или меньше 1, «распространяя его».

В предположении нормальности два слагаемых в произведении являются независимыми. Поэтому, если мы случайным образом получим из распределения этой t-статистики, мы получим нормальное случайное число (первое слагаемое в произведении), умноженное на второе случайно выбранное значение (без учета нормального слагаемого) из правостороннего распределения, которое ' как правило, около 1.

Когда df велико, значение имеет тенденцию быть очень близким к 1, но когда df мало, оно довольно искажено и разброс большой, с большим правым хвостом этого коэффициента масштабирования, делающим хвост довольно толстым:

введите описание изображения здесь

Glen_b - Восстановить Монику
источник

Благодарность! Это многое прояснило, но я все еще был немного неуверен в том, что «его квадрат является случайной величиной хи-квадрат, деленной на ее степени свободы (которая также является df от t-распределения), умноженного на [стандартное отклонение] числителя». ». Вы упомянули об этом просто потому, что это было полезно знать, или это имеет прямое отношение к ответу на мой вопрос? Я понимаю, что именно распределение знаменателя, а не распределение квадрата знаменателя, изображено на вашей фигуре.

user1205901 - Восстановить Монику

Распределение статистики было бы более тяжелым, чем обычно, даже если бы оно не было конкретно квадратным корнем хи-квадрата на его df; в этом смысле это не будет напрямую изменять ответ, чтобы его опустить. Но, по крайней мере, это служит объяснением того, откуда взялись распределения шкаличи на диаграмме.

Glen_b

Я думаю, что было бы немного более полезно провести этот анализ на основе обратной величины стандартного отклонения выборки. Это, в сочетании с аргументом о том, что образец SD не зависит от среднего значения выборки (ключевая идея, которая выиграет от чуть большего акцента и объяснения, ИМХО), поможет людям увидеть, что деление выборочного среднего значения на образец SD должно распространять то, что в противном случае было бы нормальным распределением. (Это, конечно, и было

смыслом

@whuber Я добавил раздел, обсуждающий его с точки зрения взаимности, но также сохранил первоначальное обсуждение (мне кажется, что оно более прямое, но я ценю, что многие люди могут извлечь из этого больше пользы с точки зрения взаимности) , Я также добавлю немного о независимости

Glen_b

s / \sqrt{n}

$s/\sqrt{n}$

σ / \sqrt{n}

$\sigma/\sqrt{n}$

s / σ

$s/\sigma$

σ / s

$\sigma/s$

σ

$\sigma$

Я просто хотел поделиться чем-то, что помогло моей интуиции как новичку (хотя это менее строгое, чем другие ответы).

$Z, Z_1, ..., Z_n$

\frac{Z}{\sqrt{\frac{Z_{1}^{2} +,,, + Z_{N}^{2}}{N}}}

$\frac{Z}{\sqrt{\frac{Z_1^2+...+Z_n^2}{n}}}$

имеет Т-распределение с $n$ степени свободы.

В качестве $n$ становится действительно большим, используя закон больших чисел, мы можем видеть, что знаменатель идет к $1$ , Так что вы просто остались с $Z$ который является нормальным нормальным, поэтому распределение t выглядит нормально, как $n$ становится большим.

Для уточнения ... обратите внимание, что $E[Z^2] = 1$ который говорит, что ожидаемое значение Чи в квадрате RV равно единице. Доля в квадратном корне - это просто среднее значение выборки $n$ н.о.р. $Z_i^2$ RVs. Образец означает как $n$ получает супер большой будет равен ожидаемому значению только одного из $Z_i^2$ это что один.

Таким образом $n$ становится действительно большим, вы просто остались с $\frac{Z}{\sqrt{1}} = Z$

HJ_beginner
источник

Почему t-распределение становится более нормальным с увеличением размера выборки?

Ответы:

Рассматривается с точки зрения взаимности знаменателя