Какова интуиция за независимость

Я надеялся, что кто-то может предложить аргумент, объясняющий, почему случайные величины и , имеющие стандартное нормальное распределение, являются статистически независимыми. Доказательство этого факта легко следует из техники MGF, но я нахожу ее крайне нелогичной.$Y_1=X_2-X_1$$Y_2=X_1+X_2$$X_i$

Поэтому я был бы признателен за интуицию здесь, если таковая имеется.

Заранее спасибо.

РЕДАКТИРОВАТЬ : подписки не указывают статистику заказа, но наблюдения IID из стандартного нормального распределения.

Это стандартные нормальные распределенные данные: обратите внимание, что распределение является циркулярно-симметричным.

Когда вы переключаетесь на и Y 2 = X 1 + X 2 , вы эффективно вращаете и масштабируете ось, например, так: эта новая система координат имеет то же начало, что и исходная, и ось ортогональны. Из-за циркулярной симметрии переменные все еще независимы в новой системе координат.$Y_1 = X_2 - X_1$$Y_2 = X_1 + X_2$

Результат работает для совместно нормального (т.е. с корреляцией, - 1 < ρ < 1 ), с общим σ .$(X_1,X_2)$$-1<\rho<1$$\sigma$

Если вы знаете несколько основных результатов, это все, что вам нужно:

$\quad\quad\quad$

Подход dobiwan по существу хорош - просто результат более общий, чем рассматриваемый случай.

В результате вы утверждаете, правда , не верно в общем, даже не для случая , когда все , что известно, что и $X_1$ являются нормальными случайными переменными с одинаковой дисперсией, но результатдействительно подходитдляобычнойинтерпретации условия Вы заявили позже:$X_2$

Индексы указывают не статистику заказов, а наблюдения из стандартного нормального распределения.

Обычная интерпретация последних нескольких слов в этом утверждении, конечно, состоит в том, что и X $X_1$$X_2$ являются независимыми (нормальными) случайными величинами и, следовательно, совместно являются нормальными случайными величинами.

Для совместно нормальных случайных величин с одинаковой дисперсией верно, что и X 1 - X 2 являются независимыми (нормальными) случайными переменными (с, как правило, неравными дисперсиями), и лучше всего дать интуитивное объяснение этого в ответе Glen_b. Для вашего частного случая, когда X 1 и X 2 также независимы, ответ добивана, который вы приняли, является самым простым и действительно показывает, что любое вращение осей, а не только$X_1+X_2$$X_1-X_2$$X_1$$X_2$ подразумевается в преобразовании(X1,X2)→(X1+X2,X1-$\pm \frac{\pi}{4}$ , даст независимые случайные величины.$(X_1,X_2)\to (X_1+X_2, X_1-X_2)$

---

Что вообще можно сказать? Во всем, что я говорю ниже, имейте в виду, что $X$ и имеют одинаковую дисперсию , независимо от того, какие другие свойства могут быть им приписаны.$Y$

Если и Y - любые случайные величины (примечание: не обязательно нормальные) с одинаковой дисперсией, то X + Y и X - Y - некоррелированные случайные величины (то есть они имеют нулевую ковариацию). Это потому, что ковариационная функция является билинейной : cov ( X + $X$$Y$$X+Y$$X-Y$

$$\begin{align} \operatorname{cov}(X+Y, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) + \operatorname{cov}(Y,X) - \operatorname{cov}(Y,Y)\\ &= \operatorname{var}(X) - \operatorname{cov}(X,Y) + \operatorname{cov}(X,Y) - \operatorname{var}(Y)\\ &= 0. \end{align}$$ $\operatorname{cov}(X,X)$$\operatorname{var}(X)$$X$$Y$$\operatorname{cov}(Y,X) = \operatorname{cov}(X,Y)$$X$$Y$$X$$Y$$X+Y$ and $X-Y$ jointly normal, and since their covariance is $0$, $X+Y$ and $X-Y$ are independent random variables.

I first argue for general identically distributed $X_1,X_2$ that the conditional mean of $Y_1$ conditional on $Y_2$ is constant $0$. Based on this, I argue that the covariance of  $Y_1,Y_2$ is 0. Then, under normality, zero covariance implies independence.

The conditional mean

Intuition: $X_1+X_2=y$ does not imply anything about which component contributed more to the sum (e.g., $X_1=x, X_2 = y-x$ is as likely as $X_1 = y-x, X_2=x$). Thus, the expected difference must be 0.

Proof: $X_1$ and $X_2$ have identical distribution and $X_1+X_2$ is symmetric with respect to the indexing. Thus, for symmetry reasons, the conditional distribution $X_1 \mid Y_2 = y$ must be equal to the conditional distribution $X_2 \mid Y_2 = y$. Hence, the conditional distributions also have the same mean, and

$$\begin{equation} \mathbb{E}(Y_1 \mid Y_2 = y) = \mathbb{E}(X_1 - X_2 \mid X_1+X_2 = y) \\ = \mathbb{E}(X_1 \mid X_1+X_2 = y) - \mathbb{E}(X_2 \mid X_1+X_2 = y)= 0. \end{equation}$$

(Caveat: I did not consider the possibility that the conditional mean might not exist.)

Constant conditional mean implies zero correlation/covariance

Intuition: correlation measures how much $Y_1$ tends to increase when $Y_2$ increases. If observing $Y_2$ never changes our mean of $Y_1$, $Y_1$ and $Y_2$ are uncorrelated.

Proof: By definition, covariance is

$$\begin{equation} Cov(Y_1,Y_2) = \mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right)\right] \end{equation}$$ to this expectation, we apply the law of iterated expectations: take the expectation of the conditional expectation conditional on $Y_2$: $$\begin{equation} = \mathbb{E}\left[\mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right) \mid Y_2\right]\right] = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1 - \mathbb{E}(Y_1) \mid Y_2\right] \right]. \end{equation}$$ Recall that the conditional mean was shown to be independent of $Y_2$ and thus the expression simplifies as $$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1-\mathbb{E}(Y_1)\right]\right] \end{equation}$$ but the inner expectation is $0$ and we get $$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\times0\right] = 0. \end{equation}$$

Independence

Just by assuming identical distributions for $X_1,X_2$, it was shown that $Y_1$ and $Y_2$ are uncorrelated. When $X_1,X_2$ are jointly normal (for example, iid. normal as in the question), their linear combinations $Y_1,Y_2$ are also jointly normal and thus uncorrelatedness implies independence.