Ковариантность и независимость?

54

Я прочитал из своего учебника, что не гарантирует, что X и Y независимы. Но если они независимы, их ковариация должна быть 0. Я пока не мог придумать ни одного правильного примера; кто-то может предоставить один?cov(X,Y)=0

Летающая свинья
источник
10
Вам также может понравиться краткий обзор квартета Анскомба , который иллюстрирует некоторые из множества различных способов реализации конкретной ненулевой ковариации с помощью двумерного набора данных.
whuber
7
Следует отметить, что мера ковариации является мерой линейности. Вычисление ковариации является ответом на вопрос «Образуют ли данные прямую линию?». Если данные следуют линейному шаблону, они, следовательно, зависят. НО, это только один способ, которым данные могут зависеть. Это все равно, что спросить: «Я безрассудно за рулем?» Один вопрос может быть: «Вы путешествуете со скоростью 25 миль в час сверх ограничения скорости?» Но это не единственный способ безрассудного вождения. Другой вопрос может быть «Ты пьян?» и т. д. Существует несколько способов безрассудного вождения.
Адам
Так называемая мера линейности дает структуру отношениям. Что важно, что отношения могут быть нелинейными, что не редкость. Как правило, ковариация не равна нулю, это гипотетически. Ковариация указывает величину, а не отношение,
Субхаш С. Давар

Ответы:

48

Простой пример: пусть будет случайной величиной, равной или с вероятностью 0,5. Тогда пусть будет случайной величиной, такой, что если , и будет случайным образом или с вероятностью 0,5, если .- 1 + 1 Y Y = 0 X = - 1 Y - 1 + 1 X = 1X1+1YY=0X=1Y1+1X=1

Ясно, что и сильно зависят (поскольку знание позволяет мне точно знать ), но их ковариация равна нулю: они оба имеют нулевое среднее значение, иY Y XXYYX

E[XY]=(1)0P(X=1)+11P(X=1,Y=1)+1(1)P(X=1,Y=1)=0.

Или, в более общем случае, возьмем любое распределение и любое такое, что для всех (т. Е. Совместное распределение, которое является симметричен относительно оси ), и вы всегда будете иметь нулевую ковариацию. Но вы будете иметь независимость всякий раз, когда ; условные выражения не все равны предельному. Или то же самое для симметрии вокруг осиP(X)P(Y|X)P(Y=a|X)=P(Y=a|X)XxP(Y|X)P(Y)y

jpillow
источник
32

Вот пример, который я всегда даю студентам. Возьмем случайную переменную с и , например, нормальную случайную переменную с нулевым средним. Возьмите . Ясно, что и связаны, ноXEX=0EX3=0Y=X2XY

cov(X,Y)=EXYEXEY=EX3=0.
mpiktas
источник
Мне тоже нравится этот пример. В частном случае a N (0,1) rv и chi2 (1) rv некоррелированы.
ocram
3
+1, но в качестве мелкого придира, вам нужно предположить, что отдельно (это не следует из предположения о симметрии распределения или из ), так что мы не будем не имеют таких проблем, как работающий в форме . И я привередливый о @ ocram - й утверждении , что « N (0,1) с.в. и chi2 (1) с.в. некоррелированны.» (выделение добавлено) Да, и некоррелированы, но не любые и случайные величины , E [ X ] = 0 E [ X 3 ] - X N ( 0 , 1 ) X 2χ 2 ( 1 ) N ( 0 , 1 ) χ 2 ( 1 )E[X3]=0E[X]=0E[X3]XN(0,1)X2χ2(1) N(0,1)χ2(1)
Дилип Сарвейт
@DilipSarwate, спасибо, я соответственно отредактировал свой ответ. Когда я это писал я хоть о нормальных переменных, для них нулевой третий момент следует из нулевого среднего.
mpiktas
19

Изображение ниже (исходная Википедия ) имеет ряд примеров в третьей строке, в частности первый и четвертый примеры имеют сильную зависимую связь, но 0 корреляцию (и 0 ковариацию).

введите описание изображения здесь

naught101
источник
15

В некоторых других примерах рассмотрим точки данных, которые образуют круг или эллипс, ковариация равна 0, но, зная x, вы сужаете y до 2 значений. Или данные в квадрате или прямоугольнике. Также данные, которые образуют X, или V, или ^, или <или>, все дают ковариацию 0, но не являются независимыми. Если y = sin (x) (или cos) и x охватывает целое число, кратное периодам, то cov будет равно 0, но, зная x, вы знаете y или, по крайней мере, | y | в эллипсе, x, <и> случаях.

Грег Сноу
источник
1
То, что должно быть, «если x охватывает целое число, кратное периодам, начинающимся с пика или впадины» или, в более общем смысле: «Если x охватывает интервал, в котором y симметричен»
naught101
Не могли бы вы объяснить, почему ковариация равна нулю для круга?
user1993
1
@ user1993, посмотрите на формулу ковариации (или корреляции). Затем подумайте о круге / эллипсе. Вычитание среднего значения дает окружность с центром в (0,0), поэтому для каждой точки на окружности вы можете отразить точку вокруг оси x, оси y и обеих осей, чтобы найти всего 4 точки, которые будут все добавьте точно такое же абсолютное значение к ковариации, но 2 будет положительным, а 2 будет отрицательным, давая сумму 0. Сделайте это для всех точек на окружности, и вы будете складывать кучу 0, давая общую ковариацию из 0.
Грег Сноу