Моделирование сходимости по вероятности к константе

Асимптотические результаты не могут быть подтверждены компьютерным моделированием, потому что они являются утверждениями, включающими понятие бесконечности. Но мы должны иметь возможность почувствовать, что вещи действительно идут так, как нам подсказывает теория.

Рассмотрим теоретический результат

\underset{N \to \infty}{Ит} п (| {Икс}_{N} | > ε) знак равно 0, ε > 0

$\lim_{n\rightarrow\infty}P(|X_n|>\epsilon) = 0, \qquad \epsilon >0$

где $X_n$ является функцией от $n$ случайных величин, скажем, одинаково и независимо распределенных. Это говорит о том, что $X_n$ сходится по вероятности к нулю. Примером архетипа здесь, я думаю, является случай, когда $X_n$ - среднее значение выборки минус общее ожидаемое значение iidrv's выборки,

{Икс}_{N} знак равно \frac{1}{N} Σ_{я знак равно 1}^{N} Y_{я} - Е [Y_{1}]

$X_n = \frac 1n\sum_{i=1}^nY_i - E[Y_1]$

ВОПРОС: Как мы можем убедительно показать кому-то, что указанное выше соотношение «материализуется в реальном мире», используя результаты компьютерного моделирования из обязательно конечных выборок?

Обратите внимание, что я специально выбрал сходимость к константе .

Ниже я приведу свой подход в качестве ответа, и я надеюсь на лучшие.

ОБНОВЛЕНИЕ: Что-то в моей голове беспокоило меня - и я узнал что. Я выкопал старый вопрос, где в комментариях к одному из ответов шла самая интересная дискуссия . Там @Cardinal предоставил пример оценки, что она непротиворечива, но ее дисперсия остается ненулевой и конечной асимптотически. Таким образом, более жесткий вариант моего вопроса становится следующим: как с помощью моделирования мы показываем, что статистика сходится по вероятности к константе, когда эта статистика асимптотически поддерживает ненулевую и конечную дисперсию?

mathematical-statistics simulation convergence asymptotics Алекос Пападопулос
источник

@Glen_b Исходя из вас, это эквивалент значка. Спасибо.

Алекос Пападопулос

Я думал об этом время от времени, и все, что я придумал, это аргумент «концентрация вокруг среднего»; Я надеюсь, что некоторые умные люди здесь успеют написать что-нибудь интересное! (+1 конечно!)

ekvall

Я думаю о как функция распределения (дополнительная в конкретном случае). Поскольку я хочу использовать компьютерное моделирование, чтобы продемонстрировать, что все происходит так, как нам подсказывает теоретический результат, мне нужно построить эмпирическую функцию распределенияили эмпирическое распределение относительной частоты, а затем каким-то образом показать, что при увеличении значения сосредоточиться "больше и больше" до нуля. $P()$ $|X_n|$ $n$ $|X_n|$

Чтобы получить эмпирическую функцию относительной частоты, мне нужно (намного) больше, чем одна выборка, увеличивающаяся в размере, потому что с увеличением размера выборки распределениеизменения для каждого разные . $|X_n|$ $n$

Поэтому мне нужно генерировать из распределения 's выборок «параллельно», скажем, в тысячах, каждый из которых имеет некоторый начальный размер , скажем, в десятках тысяч. Мне нужно тогда вычислить значениеиз каждого образца (и для того же ), т.е. получить набор значений . $Y_i$ $m$ $m$ $n$ $n$ $|X_n|$ $n$ $\{|x_{1n}|, |x_{2n}|,...,|x_{mn}|\}$

Эти значения могут быть использованы для построения эмпирического распределения относительной частоты. Веря в теоретический результат, я ожидаю, что «много» значенийбудет "очень близко" к нулю, но, конечно, не все. $|X_n|$

Итак, чтобы показать, что значениядействительно продвигайтесь к нулю в больших и больших числах, мне пришлось бы повторить процесс, увеличив размер выборки, скажем, до , и показать, что теперь концентрация до нуля «увеличилась». Очевидно, чтобы показать, что он увеличился, нужно указать эмпирическое значение для . $|X_n|$ $2n$ $\epsilon$

Будет ли этого достаточно? Можем ли мы как-то формализовать это «увеличение концентрации»? Может ли эта процедура, если она выполняется в несколько этапов «увеличения размера выборки», причем один из них ближе к другому, дать нам некоторую оценку фактической скорости сходимости , то есть что-то вроде «эмпирической вероятностной массы, которая движется ниже порогового значения за каждый шаг "скажем, тысячи? $n$

Или изучите значение порога, для которого, скажем, % вероятности лежит ниже, и посмотрите, как это значение уменьшается по величине? $90$ $\epsilon$

ПРИМЕР

Рассмотрим как и так $Y_i$ $U(0,1)$

| {Икс}_{N} | знак равно | \frac{1}{N} Σ_{я знак равно 1}^{N} Y_{я} - \frac{1}{2} |

$|X_n| = \left|\frac 1n\sum_{i=1}^nY_i - \frac 12\right|$

Сначала мы генерируем выборок размером каждая. Эмпирическое распределение относительной частотыпохоже $m=1,000$ $n=10,000$ $|X_{10,000}|$ введите описание изображения здесь

и отметим, что % значенийменьше . $90.10$ $|X_{10,000}|$ $0.0046155$

Затем я увеличиваю размер выборки до . Теперь эмпирическое распределение относительной частотывыглядит, и мы отмечаем, что % значенийниже . В качестве альтернативы, теперь % значений падают ниже . $n=20,000$ $|X_{20,000}|$ введите описание изображения здесь $91.80$ $|X_{20,000}|$ $0.0037101$ $98.00$ $0.0045217$

Вас убедит такая демонстрация?

Алекос Пападопулос
источник

10^{1000}

$10^{1000}$

@whuber То, что ты пишешь, звучит очень интересно. Были ли эти модели, о которых вы упомянули, основаны на некоторых исходных реальных данных, из каких распределений были получены оценки, а затем были получены дополнительные искусственные данные? Или это было искусственно с самого начала? Если конфиденциальность не является проблемой, и время позволяет, я лично очень хотел бы увидеть ваш ответ, дающий некоторое представление о том, как развивались эти симуляции и почему остались сомнения.

Алекос Пападопулос

N

$N$

(1 / 2)

$(1/2)$

(N, 1 / 2)

$(N,1/2)$

N

$N$

(N / 2, \sqrt{N} / 2)

$(N/2, \sqrt{N}/2)$

1000

$1000$

@ Whuber Спасибо, я буду работать над этим. Кстати, упомянутый вами вопрос, ответ на него и ваши комментарии заставили меня глубже исследовать как асимптотическое распределение дисперсии выборки из ненормальных выборок, так и применимость теоремы Слуцкого таким образом, что используется в ответе. Я надеюсь, что со временем у меня будут какие-то результаты.

Алекос Пападопулос

Моделирование сходимости по вероятности к константе

Ответы: