Являются ли случайные величины

15

Можем ли мы что-нибудь сказать о зависимости случайной величины и функции от случайной величины? Например, зависит ли X 2X2 от XX ?

Рохит Банга
источник
5
Если XX и f ( X )f(X) независимы, то f ( X )f(X) почти наверняка постоянна. То есть, существует такое , что Р ( Р ( Х ) = ) = 1 . aP(f(X)=a)=1
кардинал
2
@ Cardinal - почему бы не ответить ?
Карл
@cardinal, я хотел попросить Джона уточнить его комментарий. Я считал само собой разумеющимся, что рассматриваемая функция была заданной, детерминированной функцией. В процессе я закончил тем, что выписал аргумент для результата, который вы указали. Любые комментарии приветствуются и приветствуются.
NRH
Да, X 2X2 зависит от XX , так как если вы знаете X,X то вы знаете X 2X2 . XX и YY являются независимыми , если только знание величины XX не влияет на ваши знания о распределении YY .
Генри
2
@iamrohitbanga: Если X { - 1 , 1 }, то X 2 = 1 почти наверняка. Таким образом, X не зависит от X 2 в этом конкретном случае. X{1,1}X2=1XX2
кардинал

Ответы:

18

Вот подтверждение комментария @ cardinal с небольшим поворотом. Если X и f ( X ) независимы, то P ( X A f - 1 ( B ) ) = P ( X A , f ( X ) B )Xf(X)= P ( X A ) P ( f ( X ) B )= P ( X A ) P ( X f - 1 ( B ) ) ПринимаяA=f-1(B),получаем уравнение P(f(X)B)=P(f(X)B)2, который имеет два решения 0 и 1. Таким образом,P(f(X

P(XAf1(B))===P(XA,f(X)B)P(XA)P(f(X)B)P(XA)P(Xf1(B))
A=f1(B)
P(f(X)B)=P(f(X)B)2,
) B ) { 0 , 1 } для всех Б. В полной общности невозможно сказать больше. Если X и f ( XP(f(X)B){0,1}BX ) независимы, то f ( X ) является переменной, такой, что для любого B он находится либо в B, либо в B c с вероятностью 1. Чтобы сказать больше, нужно больше предположений, например, что синглтон устанавливает { б }f(X)f(X)BBBc{b} измеримы.

Однако детали на теоретическом уровне меры, похоже, не являются главной заботой ОП. Если X вещественное и f вещественная функция (и мы используем , скажем, борелевскую σ- алгебру), то из B = ( - , b ] следует, что функция распределения для распределения f ( X ) принимает только значения 0 и 1, следовательно, есть b, при котором он переходит с 0 на 1 и P ( f ( X ) = b ) = 1XfσB=(,b]f(X)b01P(f(X)=b)=1,

В конце концов, ответ на вопрос OPs заключается в том, что X и f ( X ), как правило, зависимы и независимы только в очень особых обстоятельствах. Кроме того, мера Дирака δ е ( х ) всегда имеет право на условное распределение ф ( X ) данного X = х , что формальный способ сказать , что знание X = х , то вы знаете точно , что F ( X )Xf(X)δf(x)f(X)X=xX=xf(X)является. Эта особая форма зависимости с вырожденным условным распределением характерна для функций случайных величин.

NRH
источник
(+1) Sorry. As I was composing my answer, I didn't get an update that you'd submitted one as well. :)
cardinal
21

Lemma: Let XX be a random variable and let ff be a (Borel measurable) function such that XX and f(X)f(X) are independent. Then f(X)f(X) is constant almost surely. That is, there is some aRaR such that P(f(X)=a)=1P(f(X)=a)=1.

The proof is below; but, first, some remarks. The Borel measurability is just a technical condition to ensure that we can assign probabilities in a reasonable and consistent way. The "almost surely" statement is also just a technicality.

The essence of the lemma is that if we want XX and f(X)f(X) to be independent, then our only candidates are functions of the form f(x)=af(x)=a.

Contrast this with the case of functions ff such that XX and f(X)f(X) are uncorrelated. This is a much, much weaker condition. Indeed, consider any random variable XX with mean zero, finite absolute third moment and that is symmetric about zero. Take f(x)=x2f(x)=x2, as in the example in the question. Then Cov(X,f(X))=EXf(X)=EX3=0Cov(X,f(X))=EXf(X)=EX3=0, so XX and f(X)=X2f(X)=X2 are uncorrelated.

Below, I give the simplest proof I could come up with for the lemma. I've made it exceedingly verbose so that all the details are as obvious as possible. If anyone sees ways to improve it or simplify it, I'd enjoy knowing.

Idea of proof: Intuitively, if we know XX, then we know f(X)f(X). So, we need to find some event in σ(X)σ(X), the sigma algebra generated by XX, that relates our knowledge of XX to that of f(X)f(X). Then, we use that information in conjunction with the assumed independence of XX and f(X)f(X) to show that our available choices for ff have been severely constrained.

Proof of lemma: Recall that XX and YY are independent if and only if for all Aσ(X)Aσ(X) and Bσ(Y)Bσ(Y), P(XA,YB)=P(XA)P(YB)P(XA,YB)=P(XA)P(YB). Let Y=f(X)Y=f(X) for some Borel measurable function ff such that XX and YY are independent. Define A(y)={ω:f(X(ω))y}A(y)={ω:f(X(ω))y}. Then, A(y)={ω:X(ω)f1((,y])}

A(y)={ω:X(ω)f1((,y])}
and since (,y](,y] is a Borel set and ff is Borel-measurable, then f1((,y])f1((,y]) is also a Borel set. This implies that A(y)σ(X)A(y)σ(X) (by definition(!) of σ(X)σ(X)).

Since XX and YY are assumed independent and A(y)σ(X)A(y)σ(X), then P(XA(y),Yy)=P(XA(y))P(Yy)=P(f(X)y)P(f(X)y),

P(XA(y),Yy)=P(XA(y))P(Yy)=P(f(X)y)P(f(X)y),
and this holds for all yRyR. But, by definition of A(y)A(y) P(XA(y),Yy)=P(f(X)y,Yy)=P(f(X)y).
P(XA(y),Yy)=P(f(X)y,Yy)=P(f(X)y).
Combining these last two, we get that for every yRyR, P(f(X)y)=P(f(X)y)P(f(X)y),
P(f(X)y)=P(f(X)y)P(f(X)y),
so P(f(X)y)=0P(f(X)y)=0 or P(f(X)y)=1P(f(X)y)=1. This means there must be some constant aRaR such that the distribution function of f(X)f(X) jumps from zero to one at aa. In other words, f(X)=af(X)=a almost surely.

NB: Note that the converse is also true by an even simpler argument. That is, if f(X)=af(X)=a almost surely, then XX and f(X)f(X) are independent.

cardinal
источник
+1, I should be sorry - to steal your argument is not very polite. It's great that you spelled out the difference between independence and being uncorrelated in this context.
NRH
No "stealing" involved, nor impoliteness. :) Though many of the ideas and comments are similar (as you'd expect for a question like this!), I think the two posts are nicely complementary. In particular, I like how at the beginning of your post you didn't constrain yourself to real-valued random variables.
cardinal
@NRH accepting your answer as the initial part of your proof seems easier to grasp for a novice like me. Nevertheless +1 cardinal for your answer.
Rohit Banga