Простое доказательство

Пусть - независимые стандартные нормальные случайные величины. Есть много (длинных) доказательств, показывающих, что $Z_1,\cdots,Z_n$

\sum_{i = 1}^{n} {(Z_{i} - \frac{1}{n} \sum_{j = 1}^{n} Z_{j})}^{2} \sim χ_{n - 1}^{2}

$\sum_{i=1}^n \left(Z_i - \frac{1}{n}\sum_{j=1}^n Z_j \right)^2 \sim \chi^2_{n-1}$

Многие доказательства довольно длинные, и некоторые из них используют индукцию (например, Статистический вывод Казеллы). Мне интересно, есть ли какое-нибудь легкое доказательство этого результата.

mathematical-statistics sampling 3x89g2
источник

Для интуитивного геометрического (некоординатного) подхода посмотрите в Разделе 1.2 превосходного текста Майкл Дж. Вичура «Бескоординатный подход к линейным моделям » (технические детали приведены в теореме 8.2), где автор фактически сравнил традиционный матричное доказательство (предоставленное ответом Уубера) и его проекционный подход, показывающий, что его геометрический подход более естественен и менее неясен. Лично я считаю это доказательство проницательным и лаконичным.

Zhanxiong

Ответы:

Для определите $k=1, 2, \ldots, n-1$

X_{k} = (Z_{1} + Z_{2} + \dots + Z_{k} - k Z_{k + 1}) / \sqrt{k + k^{2}} .

$X_k = (Z_1 + Z_2 + \cdots + Z_k - kZ_{k+1})/\sqrt{k+k^2}.$

, будучи линейными преобразованиями multinormally распределенных случайных величин , также имеет multinormal распределения. Обратите внимание, что $X_k$ $Z_i$

Дисперсионно-ковариационная матрица представляет собой единичную матрицу . $(X_1, X_2, \ldots, X_{n-1})$ $n-1\times n-1$
$X_1^2 + X_2^2 + \cdots + X_{n-1}^2 = \sum_{i=1}^n (Z_i-\bar Z)^2.$

, который легко проверить, непосредственно вытекает при соблюдении всех некоррелированы с Все расчеты сводятся к тому, что , где есть единиц. $(1)$ $(2)$ $X_k$ $\bar Z.$ $1+1+\cdots+1 - k = 0$ $k$

Вместе они показывают , что имеет распределение суммы некоррелированных с единичной дисперсией Нормальных переменными. По определению это распределение , QED . $\sum_{i=1}^n(Z_i-\bar Z)^2$ $n-1$ $\chi^2(n-1)$

Ссылки

Объяснение того, откуда происходит построение , см. В начале моего ответа в разделе Как выполнить изометрическое логарифмическое преобразование, касающееся матриц Гельмерта . $X_k$
Это упрощение общей демонстрации, приведенной в ответе Окрама на « Почему RSS распределяется по квадратам времени np» . Этот ответ утверждает, что «существует матрица» для построения ; здесь я выставляю такую матрицу. $X_k$

Whuber
источник

Эта конструкция имеет простую геометрическую интерпретацию. (1) Переменные

распределены по n-мерному сферически-симметричному распределению (таким образом, мы можем вращать его так, как нам нравится). (2)

находится как решение линейной задачи

, который фактически является проекцией вектора

на

. (3) Если мы вращаем координатное пространство так, что одна из координат совпадает с этим вектором проекции,

, то остаток представляет собой (n-1) -мулиномиальное распределение, представляющее остаточное пространство.

Z_{i}

$Z_i$

\bar{Z}

$\overline{Z}$

Z_{i} = \bar{Z} + ϵ_{i}

$Z_i = \overline{Z} + \epsilon_i$

Z

$\mathbf{Z}$

1

$\mathbf{1}$

1

$\mathbf{1}$

Секст Эмпирик

Вы показываете, что

не связаны друг с другом. Но, насколько я понимаю, чтобы сказать, что сумма квадратов стандартных нормальных переменных равна

, нам нужна независимость, что является гораздо более строгим требованием, чем некоррелированное? РЕДАКТИРОВАТЬ: о, подождите, если мы знаем, что две переменные обычно распределены, то некоррелированные подразумевает независимость.

X_{i}

$X_i$

χ^{2}

$\chi^2$

user56834

Кроме того, я не понимаю, как вы переходите от факта, что

не связаны с

(что я понимаю), к (2). Не могли бы вы уточнить?

X_{i}

$X_i$

\bar{Z}

$\bar Z$

user56834

@Programmer Извините; Я не хотел подразумевать, что это логический вывод - (1) и (2) - два отдельных наблюдения. (2) это просто (прямая) алгебраическая идентичность.

whuber

Программист, обратите внимание на ссылку на другой ответ, который дал Уубер ( stats.stackexchange.com/questions/259208/… ).

построены на основе матрицы

с ортогональными строками. Таким образом, вы можете оценить более абстрактным (менее подверженным ошибкам)

как

X_{k}

$X_k$

H

$H$

\sum K_{i}^{2}

$\sum K_i^2$

, (заметьте, что мы должны расширить K на вектор 1111, чтобы сделать его n на n)

K \cdot K = (H Z) \cdot (H Z) = (H Z)^{T} (H Z) = Z^{T} (H^{T} H) Z = Z^{T} I Z = Z \cdot Z

$K \cdot K = (H Z) \cdot (H Z) = (HZ)^T (HZ) = Z^T (H^TH) Z= Z^T I Z = Z \cdot Z$

Sextus

Обратите внимание , вы сказали являются IID со стандартным нормальным , с и $Z_is$ $N(0,1)$ $\mu=0$ $\sigma=1$

Тогда $Z_i^2\sim \chi^2_{(1)}$

Тогда

\begin{aligned} \sum_{i = 1}^{n} Z_{i}^{2} & = \sum_{i = 1}^{n} (Z_{i} - \bar{Z} + \bar{Z})^{2} = \sum_{i = 1}^{n} (Z_{i} - \bar{Z})^{2} + n {\bar{Z}}^{2} \\ (1) & = \sum_{i = 1}^{n} (Z_{i} - \bar{Z})^{2} + {[\frac{\sqrt{n} (\bar{Z} - 0)}{1}]}^{2} \end{aligned}

$\begin{align}\sum_{i=1}^n Z_i^2&=\sum_{i=1}^n(Z_i-\bar{Z}+\bar{Z})^2=\sum_{i=1}^n(Z_i-\bar{Z})^2+n\bar{Z}^2\\&=\sum_{i=1}^n(Z_i-\bar{Z})^2+\left[\frac{\sqrt{n}(\bar{Z}-0)}{1}\right ]^2 \tag{1} \end{align}$

Обратите внимание, что в левой части (1) и что второе слагаемое в правой части

\sum_{i = 1}^{n} Z_{i}^{2} \sim χ_{(n)}^{2}

$\sum_{i=1}^n Z_i^2\sim\chi^2_{(n)}$

{[\frac{\sqrt{n} (\bar{Z} - 0)}{1}]}^{2} \sim χ_{(1)}^{2} .

$\left[\frac{\sqrt{n}(\bar{Z}-0)}{1}\right ]^2 \sim\chi^2_{(1)}.$

Кроме такое , что и независимы. Поэтому два последних слагаемых в (1) (функции и ) также независимы. Поэтому их mgfs связаны с mgf левой части (1) через $\operatorname{Cov}(Z_i-\bar Z,\bar Z)=0$ $Z_i-\bar Z$ $\bar Z$ $Z_i-\bar Z$ $Z_i$ , где и . MGF из , следовательно

M_{n} (t) = M_{n - 1} (t) M_{1} (t)

$M_n(t) = M_{n-1}(t)M_1(t)$

M_{n} (t) = (1 - 2 t)^{- n / 2}

$M_n(t)=(1-2t)^{-n/2}$

M_{1} (t) = (1 - 2 t)^{- 1 / 2}

$M_1(t)=(1-2t)^{-1/2}$

\sum_{i = 1}^{n} (Z_{i} - \bar{Z})^{2}

$\sum_{i=1}^n(Z_i-\bar{Z})^2$

. Таким образом,

является хи-квадрат с

степенями свободы.

M_{n - 1} (t) = M_{n} (t) / M_{1} (t) = (1 - 2 t)^{- (n - 1) / 2}

$M_{n-1}(t)=M_n(t)/M_1(t)=(1-2t)^{-(n-1)/2}$

\sum_{i = 1}^{n} (Z_{i} - \bar{Z})^{2}

$\sum_{i=1}^n(Z_i-\bar{Z})^2$

n - 1

$n-1$

Глубокий Север
источник

Последнее «Поэтому» слишком небрежно

Zhanxiong

\bar{X}

$\bar{X}$

\bar{X}

$\bar{X}$

\sum Z_{i}^{2}

$\sum Z_i^2$

\bar{Z}

$\bar{Z}$

\sum (Z_{i} - \bar{Z})^{2}

$\sum (Z_i - \bar{Z})^2$

\bar{Z}

$\bar{Z}$

Я думаю, что использовал теорему Кохрана

Глубокий север

@DeepNorth Если заполнить некоторые недостающие фрагменты в вашем доказательстве

Jarle Tufto