Если ,

9

Предположим следующее:
Пусть $Z_i = \min\{k_i, X_i\}, i=1,...,n$ . Также $X_i \sim U[a_i, b_i], \; a_i, b_i >0$ . Кроме того, $k_i = ca_i + (1-c)b_i,\;\; 0<c<1$ т.е. $k_i$ является выпуклой комбинацией границ соответствующих опор. $c$ является общим для всех $i$ .

Я думаю, что у меня есть правильное распределение $Z_i$ : это смешанное распределение .
Он имеет непрерывную часть,

{Икс}_{я} \in [a_{я}, К_{я}), Z_{я} знак равно {Икс}_{я} \Rightarrow Pr (Z_{я} \leq Z_{я}) знак равно \frac{Z_{я} - a_{я}}{б_{я} - a_{я}}

$X_i \in [a_i, k_i), Z_i=X_i \Rightarrow \Pr(Z_i \le z_i) = \frac {z_i-a_i}{b_i-a_i}$ а затем разрыв и дискретную часть, где вероятностные массовые концентрации:

Pr (Z_{я} знак равно К_{я}) знак равно Pr ({Икс}_{я} > К_{я}) знак равно 1 - Pr ({Икс}_{я} \leq К_{я})

$\Pr(Z_i=k_i) = \Pr(X_i > k_i) = 1- \Pr(X_i \le k_i)$

знак равно 1 - \frac{К_{я} - a_{я}}{б_{я} - a_{я}} знак равно 1 - \frac{(1 - с) (б_{я} - a_{я})}{б_{я} - a_{я}} знак равно с

$= 1- \frac {k_i - a_i}{b_i-a_i} = 1-\frac {(1-c)(b_i-a_i)}{b_i-a_i} =c$

Таким образом, во всех

F_{Z_{я}} (Z_{я}) знак равно {\begin{cases} 0 Z_{я} < a_{я} \\ \frac{Z_{я} - a_{я}}{б_{я} - a_{я}} a_{я} \leq Z_{я} < К_{я} \\ 1 К_{я} \leq Z_{я} \end{cases}

$F_{Z_i}(z_i) = \begin{cases} 0\qquad z_i<a_i\\ \\ \frac {z_i-a_i}{b_i-a_i}\qquad a_i\le z_i<k_i \\ \\1\qquad k_i\le z_i\end{cases}$

в то время как для смешанной «дискретной / непрерывной» функции масса / плотность она равна $0$ вне интервала $[a_i, k_i]$ , она имеет непрерывную часть, которая является плотностью равномерной $U(a_i, b_i)$ , $\frac {1}{b_i-a_i}$ но для $a_i\le z_i<k_i$ , и он концентрирует массу положительной вероятности $c >0$ при $z_i = k_i$ .

В целом это сводится к единству над реалами.

Я хотел бы иметь возможность получить или сказать что-то о распределении и / или моментах случайной величины $S_n \equiv \sum_{i=1}^n Z_i$ , как $n\rightarrow \infty$ .

Скажем, если независимы, это выглядит как как . Могу ли я «игнорировать» эту часть, даже в качестве приблизительного? Тогда у меня останется случайная величина, которая находится в интервале , похожий на сумму цензурированных униформ, на пути к тому, чтобы стать «нецензурированным», и поэтому, может быть, какая-то центральная предельная теорема ... но я, вероятно, расходюсь, а не сходлюсь здесь, так что, есть предложения? $X_i$ $\Pr(S_n = \sum_i^nk_i) = c^n \rightarrow 0$ $n\rightarrow \infty$ $[\sum_{i=1}^na_i,\; \sum_{i=1}^nk_i)$

PS: Этот вопрос актуален, получая распределение суммы цензурированных переменных , но ответ @Glen_b не тот, который мне нужен - мне нужно работать над этим аналитически, даже используя приближения. Это исследование, поэтому, пожалуйста, относитесь к нему как к домашней работе - общие предложения или ссылки на литературу достаточно хороши.

distributions central-limit-theorem censoring minimum Алекос Пападопулос
источник

Если вам это нужно, запишите распределение как с подходящим , в котором - борелевское множество.

Z_{i}

$Z_i$

μ_{Z_{i}} (B) = P (Z_{i} \in B) = \int_{B} g (t) d t + c I_{B} (k_{i})

$\mu_{Z_i}(B)=P(Z_i\in B)=\int_B g(t)\,dt +c\,I_B(k_i)$

g

$g$

B

$B$

Дзен

@ Zen Я уже писал в вопросе, что распределение является прерывистым. Также RHS для делает очевидным, что это означает плотность в , но для вероятности для -и я предпочитаю компактные обозначения.

f

$f$

f

$f$

[a_{i}, k_{i})

$[a_i,k_i)$

k_{i}

$k_i$

Алекос Пападопулос

Насколько я знаю, это обозначение с было pdf и pmf не существует; и у нас есть соответствующий математический язык для точного описания смешанных распределений. Я сомневаюсь, что эта запись будет принята, когда вы опубликуете свое исследование. Просто мое мнение, конечно. Вы всегда должны делать это так, как вам нравится.

f

$f$

Дзен

@Zen Publishing далеко впереди - и действительно, рецензенты нахмурились, увидев неустановленную запись. Это просто сокращение, когда нужно описать пошаговое распределение во многих строках. Нет никакого «аргумента в пользу» этого и против установленной записи, как, например, тот, который вы использовали в предыдущем комментарии.

Алекос Пападопулос

5

Я бы последовал совету Генри и проверил бы Ляпунова с . Тот факт, что распределения являются смешанными, не должен быть проблемой, если и ведут себя правильно. Моделирование частного случая, в котором , , для каждого показывает, что нормальность в порядке. $\delta=1$ $a_i$ $b_i$ $a_i=0$ $b_i=1$ $k_i=2/3$ $i\geq 1$

xbar <- replicate(10^4, mean(pmin(runif(10^4), 2/3)))
hist((xbar - mean(xbar)) / sd(xbar), breaks = "FD", freq = FALSE)
curve(dnorm, col = "blue", lwd = 2, add = TRUE)

CLT

Zen
источник

Действительно довольно нормально. Хорошо знать. Обычные условия для CLT никогда не были проблемой здесь, мой вопрос был, были ли другие, возможно тонкие проблемы, которые искажали асимптотический результат и требовали модифицированного CLT. Ваше моделирование показывает, что на самом деле дискретный разрыв становится пренебрежимо малым по вероятности, когда в сумму входит больше переменных.

Алекос Пападопулос

Ничего конкретного, но они не создают никаких проблем. Думайте о них так же, как вели себя конечные числа, независимые от индекса . Они могут увеличивать или уменьшать , как не расту (не правила конкретного), а не какая - либо один из них несоизмеримо больше , чем другие ... они представляют собой различие в размерах , тем не менее «сравнимых» сущностей. Таким образом, условие Линдеберга, безусловно, выполняется

i

$i$

i

$i$

Алекос Пападопулос

Ницца. Удачи в следующих шагах. Похоже, интересная проблема.

Дзен

3

подсказки:

Предполагая, что фиксировано и независимы, вы можете вычислить среднее значение и дисперсию для каждого : например, и вы знаете, что . $c$ $X_i$ $\mu_i$ $\sigma_i^2$ $Z_i$ $\mu_i=E[ Z_i] = c\frac{a_i+k_i}{2} + (1-c)k_i$ $k_i = ca_i + (1-c)b_i$

Затем, если и не растут слишком быстро, вы можете использовать условия Ляпунова или Линдеберга, чтобы применить центральную предельную теорему с выводом, что сходится по распределению к стандартной нормали или в смысле рукой приблизительно нормально распределяется со средним значением и дисперсия . $a_i$ $b_i$ $\displaystyle\frac{1}{\sqrt{\sum_1^n \sigma_i^2}}\left(\sum_1^n Z_i - \sum_1^n \mu_i\right)$ $\sum_1^n Z_i$ $\sum_1^n \mu_i$ $\sum_1^n \sigma_i^2$

Генри
источник

Спасибо. С и проблем нет , они не растут с индексом, они просто колеблются вокруг. Таким образом, вы говорите по существу, что CLT может охватывать также случайные переменные со смешанным распределением?

a_{i}

$a_i$

b_{i}

$b_i$

Алекос Пападопулос

Например, если бы и были фиксированными, то у вас были бы независимые одинаково распределенные случайные величины с конечной дисперсией, поэтому применима центральная предельная теорема. Является ли это распределением смеси или нет, это не влияет на этот результат. Я хочу сказать, что вы можете распространить это на случаи, когда случайные переменные независимы, но не распределены одинаково, при условии, что средние значения и различия остаются разумными.

a_{i}

$a_i$

b_{i}

$b_i$

Генри

2

Мое главное беспокойство в этом вопросе заключалось в том, можно ли применять CLT «как обычно» в случае, который я рассматриваю. Пользователь @Henry утверждал, что можно, пользователь @Zen показал это с помощью симуляции. Ободренный, сейчас я докажу это аналитически.

Сначала я хочу убедиться, что эта переменная со смешанным распределением имеет «обычную» функцию генерации моментов. Обозначим ожидаемое значение , его стандартное отклонение и центрированную и масштабированную версию через . Применяя изменение-о-переменной формулы мы находим , что непрерывная часть Производящая момент функция должна быть $\mu_i$ $Z_i$ $\sigma_i$ $Z_i$ $\tilde Z_i = \frac {Z_i-\mu_i}{\sigma_i}$

е_{\tilde{Z}} ({\tilde{Z}}_{я}) знак равно σ_{я} е_{Z} (Z_{я}) знак равно \frac{σ_{я}}{б_{я} - a_{я}}

$f_{\tilde Z}(\tilde z_i) = \sigma_if_Z(z_i) = \frac {\sigma_i}{b_i-a_i}$

{\tilde{Z}}_{i}

$\tilde Z_i$

{\tilde{M}}_{я} (T) знак равно Е (е^{{\tilde{Z}}_{я} T}) знак равно \int_{- \infty}^{\infty} е^{{\tilde{Z}}_{я} T} d F_{\tilde{Z}} ({\tilde{Z}}_{я}) знак равно \int_{{\tilde{a}}_{я}}^{{\tilde{К}}_{я}} \frac{σ_{я} е^{{\tilde{Z}}_{я} T}}{б_{я} - a_{я}} d Z_{я} + с е^{{\tilde{К}}_{я} T}

$\tilde M_i(t) = E(e^{\tilde z_it}) = \int_{-\infty}^{\infty}e^{\tilde z_it}dF_{\tilde Z}(\tilde z_i) = \int_{\tilde a_i}^{\tilde k_i}\frac{\sigma_ie^{\tilde z_it}}{b_i-a_i}dz_i + ce^{\tilde k_it}$

\Rightarrow {\tilde{M}}_{я} (T) знак равно \frac{σ_{я}}{б_{я} - a_{я}} \frac{е^{{\tilde{К}}_{я} T} - е^{{\tilde{a}}_{я} T}}{T} + с е^{{\tilde{К}}_{я} T}

$\Rightarrow \tilde M_i(t)=\frac {\sigma_i}{b_i-a_i}\frac{e^{\tilde k_it}-e^{\tilde a_it}}{t} +ce^{\tilde k_it}$ с

{\tilde{К}}_{я} знак равно \frac{К_{я} - μ_{я}}{σ_{я}}, {\tilde{a}}_{я} знак равно \frac{a_{я} - μ_{я}}{σ_{я}}

$\tilde k_i = \frac {k_i-\mu_i}{\sigma_i},\;\; \tilde a_i = \frac {a_i-\mu_i}{\sigma_i}$

Используя простые числа для обозначения производных, если мы правильно указали функцию, производящую момент, то мы должны получить так как это центрированная и масштабированная случайная величина. И действительно, вычисляя производные, применяя правило Лопиталя много раз (поскольку значение MGF в нуле должно быть рассчитано через пределы) и выполняя алгебраические манипуляции, я проверил первые два равенства. Третье равенство оказалось слишком утомительным, но я верю, что оно справедливо.

{\tilde{M}}_{я} (0) знак равно 1, {\tilde{M}}_{я}^{'} (0) знак равно Е (\tilde{Z}) знак равно 0 \Rightarrow {\tilde{M}}_{я}^{"} (0) знак равно Е ({\tilde{Z}}_{я}^{2}) знак равно Var ({\tilde{Z}}_{я}) знак равно 1

$\tilde M_i(0) = 1, \;\; \tilde M_i'(0) = E(\tilde Z) = 0 \Rightarrow \tilde M_i''(0) = E(\tilde Z_i^2) = \operatorname {Var}(\tilde Z_i)=1$

Таким образом, у нас есть правильный MGF. Если мы возьмем его разложение Тейлора 2-го порядка около нуля, мы имеем

\tilde{M} (T) знак равно \tilde{M} (0) + {\tilde{M}}^{'} (0) T + \frac{1}{2} {\tilde{M}}^{"} (0) T^{2} + о (T^{2})

$\tilde M(t) = \tilde M(0) + \tilde M'(0)t +\frac 12\tilde M''(0)t^2 + o(t^2)$

\Rightarrow \tilde{M} (T) знак равно 1 + \frac{1}{2} T^{2} + о (T^{2})

$\Rightarrow \tilde M(t) = 1 + \frac 12t^2+ o(t^2)$

Это означает, что характеристическая функция (здесь обозначает мнимую единицу) . $i$

\tilde{φ} (T) знак равно 1 + \frac{1}{2} (я T)^{2} + о (T^{2}) знак равно 1 - \frac{1}{2} T^{2} + о (T^{2})

$\tilde \phi(t) = 1 + \frac 12 (it)^2 + o(t^2)= 1 - \frac 12 t^2 + o(t^2)$

По свойствам характеристической функции имеем, что характеристическая функция равна $\tilde Z/\sqrt n$

{\tilde{φ}}_{\tilde{Z} / \sqrt{N}} (T) знак равно {\tilde{φ}}_{\tilde{Z}} (T / \sqrt{N}) знак равно 1 - \frac{T^{2}}{2 N} + о (T^{2} / N)

$\tilde \phi_{\tilde Z/\sqrt n}(t)=\tilde \phi_{\tilde Z}(t/\sqrt n) = 1 - \frac {t^2}{2n} + o(t^2/n)$

и поскольку у нас есть независимые случайные величины, характеристическая функция равна $\frac 1{\sqrt n}\sum_i^n\tilde Z_i$

{\tilde{φ}}_{\frac{1}{\sqrt{N}} Σ_{я}^{N} {\tilde{Z}}_{я}} (T) знак равно Π_{я знак равно 1}^{N} {\tilde{φ}}_{\tilde{Z}} (T / \sqrt{N}) знак равно Π_{я знак равно 1}^{N} (1 - \frac{T^{2}}{2 N} + о (T^{2} / N))

$\tilde \phi_{\frac 1{\sqrt n}\sum_i^n\tilde Z_i}(t)= \prod_{i=1}^n\tilde \phi_{\tilde Z}(t/\sqrt n)=\prod_{i=1}^n\left(1 - \frac {t^2}{2n} + o(t^2/n)\right)$

затем

\underset{N \to \infty}{Ит} {\tilde{φ}}_{\frac{1}{\sqrt{N}} Σ_{я}^{N} {\tilde{Z}}_{я}} (T) знак равно \underset{N \to \infty}{Ит} {(1 - \frac{T^{2}}{2 N})}^{N} знак равно е^{- T^{2} / 2}

$\lim_{n\rightarrow \infty}\tilde \phi_{\frac 1{\sqrt n}\sum_i^n\tilde Z_i}(t) = \lim_{n\rightarrow \infty}\left(1 - \frac {t^2}{2n}\right)^n = e^{-t^2/2}$

по какому числу представлена $e$ . Так получилось, что последний член является характеристической функцией стандартного нормального распределения, и по теореме Леви о непрерывности имеем

\frac{1}{\sqrt{N}} Σ_{я}^{N} {\tilde{Z}}_{я} \overset{d}{\to} N (0, 1)

$\frac 1{\sqrt n}\sum_i^n\tilde Z_i \xrightarrow{d} N(0,1)$

который является CLT. Обратите внимание, что тот факт, что переменные не являются одинаково распределенными, «исчез» из поля зрения, как только мы рассмотрели их центрированные и масштабированные версии и рассмотрели разложение Тейлора 2-го порядка их MGF / CHF: на этом уровне приближения эти функции идентичны, и все различия сжаты в остальных терминах, которые исчезают асимптотически. $Z$

Тот факт, что характерное поведение на индивидуальном уровне от всех отдельных элементов, тем не менее, исчезает, когда мы рассматриваем среднее поведение, я считаю, что это очень хорошо демонстрируется использованием мерзкого существа, подобного случайной переменной, имеющей смешанное распределение.

Алекос Пападопулос
источник

Действительно круто, Алекос. Мне кажется, что аргумент должен зависеть от более конкретных условий на и . Например: доказательство разрушается, если быстро? (Я знаю, что в вашем приложении этого не происходит.) Как вы думаете?

a_{i}

$a_i$

b_{i}

$b_i$

(b_{i} - a_{i}) ↓ 0

$(b_i-a_i)\downarrow 0$

Zen

@Zen Проблема, касающаяся различий независимых, но не идентично распределенных rv, очень тонкая, я не думаю, что до сих пор ясно понимаю ее. Известные условия Ляпунова или Линдеберга достаточны только для выполнения CLT. Есть случаи, когда CLT выполняется, хотя эти условия не выполняются. Поэтому я думаю, что если мы не ограничим дисперсию, то единого ответа не будет, и проблема станет полностью конкретной. Даже книга Биллингсли не ясна по этому вопросу. Вопрос в том, как будет выглядеть остаток, и что мы можем сказать об этом.

Алекос Пападопулос

Если ,

Ответы: