Набор некоррелированных, но линейно зависимых переменных

9

Можно ли иметь набор из переменных, которые не коррелированы, но линейно зависимы? $K$

т.е. и $cor(x_i, x_j)=0$ $\sum_{i=1}^K a_ix_i=0$

Если да, можете ли вы написать пример?

РЕДАКТИРОВАТЬ: Из ответов следует, что это невозможно.

По крайней мере, возможно ли, что где - это оценочный коэффициент корреляции, оцененный из выборок переменных, а - переменная, которая не связана с . $\mathbb{P}(|\hat \rho_{x_i, x_j}-\hat \rho_{x_i, v}|<\epsilon)$ $\hat\rho$ $n$ $v$ $x_i$

Я думаю что-то вроде $x_K=\dfrac{1}{K} \sum_{i=1}^{K-1} x_i$ $K>>0$

correlation mathematical-statistics multicollinearity Donbeo
источник

11

Как показывает ответ @ RUser4512, некоррелированные случайные величины не могут быть линейно зависимыми. Но почти некоррелированные случайные величины могут быть линейно зависимыми, и одним из примеров этого является то, что дорого сердцу статистика.

Предположим, что - это набор из некоррелированных случайных величин с единичной дисперсией с общим средним значением . Определите где . Тогда являются случайными переменными с нулевым средним, такими, что , то есть они линейно зависимы. Теперь так что то время как показывающий, что $\{X_i\}_{i=1}^K$ $K$ $\mu$ $Y_i = X_i - \bar{X}$ $\bar{X} = \frac 1K \sum_{i=1}^K X_i$ $Y_i$ $\sum_{i=1}^K Y_i = 0$

Y_{i} = \frac{K - 1}{K} X_{i} - \frac{1}{K} \sum_{j \neq i} X_{j}

$Y_i = \frac{K-1}{K} X_i - \frac 1K\sum_{j \neq i}X_j$

var (Y_{i}) = {(\frac{K - 1}{K})}^{2} + \frac{K - 1}{K^{2}} = \frac{K - 1}{K}

$\operatorname{var}(Y_i) = \left(\frac{K-1}{K}\right)^2+\frac{K-1}{K^2} = \frac{K-1}{K}$

cov (Y_{i}, Y_{j}) = - 2 (\frac{K - 1}{K}) \frac{1}{K} + \frac{K - 2}{K^{2}} = \frac{- 1}{K}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{K-1}{K}\right)\frac 1K + \frac{K-2}{K^2}= \frac{-1}{K}$

Y_{i}

$Y_i$ - почти некоррелированные случайные величины с коэффициентом корреляции .

- \frac{1}{K - 1}

$\displaystyle -\frac{1}{K-1}$

Смотрите также этот мой предыдущий ответ .

Дилип Сарватэ
источник

1

Это действительно хороший пример!

RUser4512

9

Нет.

Предположим, что один из не равен нулю. Без ограничения общности предположим, что . $a_i$ $a_1=1$

Для это означает, что и . Но это соотношение равно нулю. должен быть нулем, что противоречит существованию линейных отношений. $K=2$ $x_1=-a_2x_2$ $cor(x_1,x_2)=-1$ $a_1$

Для любого , и . Но, по вашей гипотезе, . В «s равны нулю (при ) , и поэтому должны быть . $K$ $x_1=-\sum_{i>1}a_ix_i$ $cor(x_1,x_k)=-1$ $cor(x_1,x_k)=0$ $a_i$ $i>1$ $a_1$

RUser4512
источник

В случае гауссовских векторов у вас даже есть однострочное доказательство (которое я предпочитаю оставить в качестве комментария). Соотношение 0 означает независимость. подразумевает и все готово.

\sum_{i} a_{i} x_{i} = 0

$\sum_i a_ix_i =0$

\sum_{i} a_{i}^{2} = 0

$\sum_i a_i^2 =0$

RUser4512

Очень хороший ответ Было бы хорошо, если бы вы могли ответить и на отредактированный вопрос.

Donbeo

Отредактированный вопрос намного сложнее;) Я предполагаю, что и относятся к одному и тому же? Я не вижу смысла в коэффициенте 1 / K, если вы ищете корреляцию, она ничего не изменит к конечному результату

v

$v$

x_{K}

$x_K$

RUser4512

1 / K требовалось , чтобы сделать .

c o r (x_{K}, x_{i}) = 1 / K

$cor(x_K, x_i)=1/K$

Donbeo

4

Это может быть немного обманом, но если мы определим «некоррелированные» как имеющие ковариацию 0, ответ - да . Пусть и оба равны нулю с вероятностью 1. Тогда $X$ $Y$

$\mathop{\mathrm{Cov}}(X,Y)= \mathop{\mathrm{E}}(XY)-\mathop{\mathrm{E}}(X)\mathop{\mathrm{E}}(Y)=0-0=0$

в то время как , поэтому и линейно зависимы (по вашему определению). $X+Y=0$ $X$ $Y$

Хотя , если вам требуется, чтобы соотношение определено, то , что дисперсии обоих и являются строго положительными, это не возможно найти переменные выполнения ваших критериев (см другие ответы). $X$ $Y$

Карл Ове Хуфтхаммер
источник

Набор некоррелированных, но линейно зависимых переменных

Ответы: