Когда нарушается закон больших чисел?

13

Вопрос заключается в том, что указано в заголовке: когда закон больших чисел не работает? Я имею в виду, в каких случаях частота события не будет стремиться к теоретической вероятности?

Emanuele
источник

Ответы:

10

Есть две теоремы (Колмогорова), и обе требуют, чтобы ожидаемое значение было конечным. Первое имеет место, когда переменные являются IID, второе, когда выборка независима и дисперсия удовлетворяетXn

n=1V(Xn)n2<

Скажем, что все имеют ожидаемое значение 0, но их дисперсия равна n 2Xnn2 так что условие явно не выполняется. Что происходит потом? Вы все еще можете вычислить приблизительное среднее значение, но это значение не будет стремиться к 0, когда вы выбираете глубже и глубже. Это будет иметь тенденцию отклоняться все больше и больше, когда вы продолжаете выборку.

Давайте приведем пример. Скажем, что является равномерным U ( - n 2 nXn так что указанное выше условие не выполняется эпически.U(n2n,n2n)

n=1V(Xn)n2=n=1n222n+2121n2=13n=14n=.

Отмечая, что

X¯n=Xnn+n1nX¯n1,

по индукции мы видим, что вычисленное среднее всегда находится в интервале ( - 2 n , 2 n ) . Используя ту же формулу для п + 1 , мы видим , что всегда есть шанс больше , чем 1 / 8 , что ˉ X п + 1 лежит вне ( - 2 пX¯n(2n,2n)n+11/8X¯n+1 . Действительно, X n + 1(2n,2n) является равномернымU(-2n+1,2n+1)и лежит снаружи(-2n,2Xn+1n+1U(2n+1,2n+1) с вероятностью 1 /(2n,2n) . С другой стороны, н1/4в(-2л,2л)по индукции, асилу симметрии она положительна с вероятностью1/2. Из этих наблюдений непосредственно следуетчто ˉ Х п+1большечем2лили меньше-2л, каждый с вероятностью большечем1/16. Поскольку вероятность того, что| ˉ X n+1| >nn+1X¯n(2n,2n)1/2X¯n+12n2n1/16 больше 1|X¯n+1|>2n , не может быть сходимость к 0 при п стремится к бесконечности.1/8n

Теперь, чтобы конкретно ответить на ваш вопрос, рассмотрим событие . Если я правильно понял, вы спросите: «При каких условиях следующее утверждение неверно?»A

limn1nk=1n1A(Xk)=P(XA),[P]a.s.

где является индикаторной функцией события A , т.е. 1 A ( X k ) = 1, если X kA и 0 в противном случае и X k1AA 1A(Xk)=1XkA0Xk распределены одинаково (и распределены как ).X

Xk

XkИкс1К тогда соотношение будет равно 1 или 0, независимо от значения N, поэтому сходимости не происходит (если только Aимеет вероятность 0 или 1, конечно). Это фальшивый и экстремальный пример. Мне не известны практические случаи, когда сближение с теоретической вероятностью не произойдет. Тем не менее, потенциальность существует, если выборка не является независимой.

gui11aume
источник
One comment. On wikipedia (lnl page) i have read that the non finiteness of variance only decelerate the convergence of the mean value. Is different from what you states?
emanuele
2
Вы двое обсуждаете один и тот же закон? Вопрос спрашивает о частоте событий, в то время как этот ответ, кажется, фокусируется на выборочном распределении среднего . Хотя связь существует, она, насколько я могу судить, еще не была явно показана здесь.
whuber
@whuber True. I focused too much on the title of the question. Thanks for pointing. I updated the answer.
gui11aume
@gui11aume i don't understand "We see that the condition above will hold, because the variance of an indicator function is bounded above by 1/4.". What does it means?
emanuele
1
If they are identically distributed, but not independent, the limit in question may not exist at all.
cardinal