Существует ли примерная версия одностороннего чебышевского неравенства?

Меня интересует следующая односторонняя версия неравенства Чебышева Кантелли :

п (Икс - Е (Икс) \geq T) \leq \frac{В a р (Икс)}{В a р (Икс) + T^{2}},

$\mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,.$

По сути, если вы знаете среднее значение и дисперсию населения, вы можете рассчитать верхнюю границу вероятности наблюдения определенного значения. (Это было мое понимание, по крайней мере.)

Однако я хотел бы использовать выборочное среднее значение и выборочную дисперсию вместо фактического среднего значения и дисперсии.

Я предполагаю, что, поскольку это внесет больше неопределенности, верхняя граница увеличится.

Существует ли неравенство, аналогичное приведенному выше, но которое использует выборочное среднее значение и дисперсию?

Редактировать : «Образец» аналог неравенства Чебышева (не односторонний), был разработан. На странице Википедии есть некоторые детали. Тем не менее, я не уверен, как это будет переводиться в односторонний случай, который я описал выше.

probability mathematical-statistics probability-inequalities mean Casandra
источник

Спасибо Glen_b. Это довольно интересная проблема. Я всегда думал, что неравенство Чебышева было мощным (так как оно позволяет вам делать статистический вывод, не требуя распределения вероятностей); так что возможность использовать его со средним и дисперсией выборки была бы просто потрясающей.

Касандра

Ответы:

Да, мы можем получить аналогичный результат, используя среднее значение и дисперсию выборки, и, возможно, в процессе появятся пара небольших сюрпризов.

Во-первых, нам нужно немного уточнить формулировку вопроса и изложить несколько предположений. Важно отметить, что мы не можем надеяться заменить дисперсию совокупности дисперсией выборки в правой части, поскольку последняя случайна ! Итак, переориентируем наше внимание на эквивалентное неравенство В случае, если не ясно, что они эквивалентны, обратите внимание, что мы просто заменили на в исходном неравенстве без потери общности.

п (Икс - Е Икс \geq T σ) \leq \frac{1}{1 + T^{2}},

$\mathbb P\left( X - \mathbb E X \geq t \sigma \right) \leq \frac{1}{1+t^2} \>.$

t

$t$

t σ

$t \sigma$

Во-вторых, мы предполагаем, что у нас есть случайный образец и нас интересует верхняя оценка для аналогичной величины $X_1,\ldots,X_n$ , где - среднее значение выборки, а стандартное отклонение выборки. $\mathbb P(X_1 - \bar X \geq t S)$ $\bar X$ $S$

Полшага вперед

Отметим, что уже применяя оригинальное одностороннее неравенство Чебышева к , мы получаем, что $X_1 - \bar X$

п ({Икс}_{1} - \bar{Икс} \geq T σ) \leq \frac{1}{1 + \frac{N}{N - 1} T^{2}}

$\mathbb P( X_1 - \bar X \geq t\sigma ) \leq \frac{1}{1 + \frac{n}{n-1}t^2}$ где

, что меньше, чем в правой части оригинальной версии. Это имеет смысл! Любая конкретная реализация случайной величины из выборки будет (немного) ближе к среднему значению выборки, в которое она вносит вклад, чем к среднему значению для популяции. Как мы увидим ниже, мы получим замену

на

при еще более общих предположениях.

σ^{2} = V a r (X_{1})

$\sigma^2 = \mathrm{Var}(X_1)$

σ

$\sigma$

S

$S$

Примерный вариант одностороннего Чебышева

Утверждение : пусть - случайная выборка такая, что $X_1,\ldots,X_n$ $\mathbb P(S = 0) = 0$ . Тогда В частности, примерная версия границыболее жесткая,чем исходная популяционная версия.
$п ({Икс}_{1} - \bar{Икс} \geq T S) \leq \frac{1}{1 + \frac{N}{N - 1} T^{2}},$ $\mathbb P(X_1 - \bar X \geq t S) \leq \frac{1}{1 + \frac{n}{n-1} t^2}\>.$

Примечание : мы не предполагаем, что имеет либо конечное среднее значение, либо дисперсию! $X_i$

Доказательство . Идея состоит в том, чтобы адаптировать доказательство первоначального одностороннего неравенства Чебышева и использовать симметрию в процессе. Во-первых, установите для удобства обозначения. Затем заметим, что $Y_i = X_i - \bar X$

п (Y_{1} \geq T S) знак равно \frac{1}{N} Σ_{я знак равно 1}^{N} п (Y_{я} \geq T S) знак равно Е \frac{1}{N} Σ_{я знак равно 1}^{N} 1_{(Y_{я} \geq T S)},

$\mathbb P( Y_1 \geq t S ) = \frac{1}{n} \sum_{i=1}^n \mathbb P( Y_i \geq t S ) = \mathbb E \frac{1}{n} \sum_{i=1}^n \mathbf 1_{(Y_i \geq t S)} \>.$

Теперь, для любого , на , $c > 0$ $\{S > 0\}$

1_{(Y_{я} \geq T S)} знак равно 1_{(Y_{я} + T с S \geq T S (1 + с))} \leq 1_{((Y_{я} + T с S)^{2} \geq T^{2} (1 + с)^{2} S^{2})} \leq \frac{(Y_{я} + T с S)^{2}}{T^{2} (1 + с)^{2} S^{2}},

$\newcommand{I}[1]{\mathbf{1}_{(#1)}} \I{Y_i \geq t S} = \I{Y_i + t c S \geq t S (1+c)} \leq \I{(Y_i + t c S)^2 \geq t^2 (1+c)^2 S^2} \leq \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2}\>.$

Тогда поскольку и

\frac{1}{n} \sum_{i} 1_{(Y_{я} \geq T S)} \leq \frac{1}{N} \underset{я}{Σ} \frac{(Y_{я} + T с S)^{2}}{T^{2} (1 + с)^{2} S^{2}} знак равно \frac{(N - 1) S^{2} + N T^{2} с^{2} S^{2}}{N T^{2} (1 + с)^{2} S^{2}} знак равно \frac{(N - 1) + N T^{2} с^{2}}{N T^{2} (1 + с)^{2}},

$\frac{1}{n} \sum_i \I{Y_i \geq t S} \leq \frac{1}{n} \sum_i \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2} = \frac{(n-1)S^2 + n t^2 c^2 S^2}{n t^2 (1+c)^2 S^2} = \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>,$

\bar{Y} = 0

$\bar Y = 0$

\sum_{i} Y_{i}^{2} = (n - 1) S^{2}

$\sum_i Y_i^2 = (n-1)S^2$

Правая часть является константой ( ! ), Поэтому при ожидании с обеих сторон получаем Наконец, минимизируя по , получаем

P (X_{1} - \bar{X} \geq t S) \leq \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}} .

$\mathbb P(X_1 - \bar X \geq t S) \leq \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>.$

c

$c$

, который после небольшой алгебры устанавливает результат.

c = \frac{n - 1}{n t^{2}}

$c = \frac{n-1}{n t^2}$

Это надоедливое техническое состояние

$\mathbb P(S = 0) = 0$ $S^2$ $0 = Y_i = t S = 0$ $i$ $t > 0$

Мы можем пошевелиться, установив $q = \mathbb P(S = 0)$

$q = \mathbb P(S = 0) > 0$
$P (X_{1} - \bar{X} \geq t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} + q .$ $\mathbb P(X_1 - \bar X \geq t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} + q \>.$

$\{S > 0\}$ $\{S = 0\}$ $\{S > 0\}$ $\{S = 0\}$

Несколько более чистое неравенство получается, если мы заменим нестрогое неравенство в утверждении вероятности строгой версией.

$q = \mathbb P(S = 0)$
$P (X_{1} - \bar{X} > t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X > t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} \>.$

$X$ (кроме того, что она не была почти наверняка постоянной в случае нестрого неравенства, которое первоначальная версия также подразумевает), по сути, потому что выборочное среднее и выборочная дисперсия всегда существуют независимо от того, существуют ли их популяционные аналоги.

кардинальный
источник

$n$ $x_i$

{Икс}_{я} - \bar{Икс} < s \sqrt{N - 1}, я знак равно 1,,,, N

$x_i-\bar x < s\sqrt{n-1},\;\; i=1,...n$

s

$s$

s = {(\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2})}^{1 / 2}

$s= \left (\frac 1n\sum_{i=1}^n(x_i-\bar x)^2\right)^{1/2}$ ,

Затем, используя обозначение ответа кардинала, мы можем утверждать, что

п ({Икс}_{1} - \bar{Икс} \geq S \sqrt{N - 1}) знак равно 0 a, s, [1]

$\mathbb P\left(X_1-\bar X \ge S\sqrt{n-1}\right) =0 \;\;a.s. \qquad [1]$

Поскольку нам требуются три различных значения, мы будем иметь $S\neq 0$ по предположению. Итак, постановка $t=\sqrt{n-1}$ в неравенстве кардинала (начальная версия) получаем

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) \leq \frac{1}{1 + n}, [2]

$\mathbb P\left (X_1 - \bar X \geq S\sqrt{n-1}\right) \leq \frac{1}{1 + n}, \;\; \qquad [2]$

Eq. $[2]$ is of course compatible with eq. $[1]$ . The combination of the two tells us that Cardinal's Inequality is useful as a probabilistic statement for $0< t < \sqrt{n-1}$ .

If Cardinal's Inequality requires $S$ to be calculated bias-corrected (call this $\tilde S$ ) then the equations become

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) = 0 a . s . [1 a]

$\mathbb P\left(X_1-\bar X \ge \tilde S\frac{n-1}{\sqrt{n}}\right) =0 \;\;a.s. \qquad [1a]$

and we choose $t= \frac{n-1}{\sqrt{n}}$ to obtain through Cardinal's Inequality

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) \leq \frac{1}{n}, [2 a]

$\mathbb P\left (X_1 - \bar X \geq \tilde S\frac{n-1}{\sqrt{n}}\right) \leq \frac{1}{ n}, \;\; \qquad [2a]$ and the probabilistically meaningful interval for

t

$t$ is

0 < t < \frac{n - 1}{\sqrt{n}} .

$0< t < \frac{n-1}{\sqrt{n}}.$

Alecos Papadopoulos
источник

(+1) Кстати, как я впервые рассматривал эту проблему, тот факт, что

max_{i} | X_{i} - \bar{X} | \leq S \sqrt{n - 1}

$\max_i |X_i - \bar X| \leq S\sqrt{n-1}$ был фактически начальный признак того, что выборочное неравенство должно быть более жестким, чем оригинал. Я хотел втиснуть это в свой пост, но не мог найти (удобное) место для этого. Я рад, что вы упомянули об этом (на самом деле очень небольшое улучшение) здесь вместе с вашей очень хорошей дополнительной проработкой. Приветствия.

кардинал

Cheers @Cardinal, great answer -just clarify for me -does it matter for your Inequality how one defines the sample variance (bias-corrected or not)?

Алекос Пападопулос

Только очень немного. Я использовал отклонение выборки с поправкой на смещение. Если вы используете

n

$n$ вместо того

n - 1

$n-1$ нормализовать, то вы в конечном итоге

\frac{1 + T^{2} с^{2}}{T^{2} (1 + с)^{2}}

$\frac{1+t^2c^2}{t^2(1+c)^2}$ вместо того

\frac{(N - 1) + N T^{2} с^{2}}{N T^{2} (1 + с)^{2}},

$\frac{(n-1) + n t^2c^2}{nt^2(1+c)^2} \,,$ что означает

n / (n - 1)

$n/(n-1)$ срок в окончательном неравенстве исчезнет. Таким образом, вы получите ту же оценку, что и в исходном одностороннем чебышевском неравенстве в этом случае. (Предполагая, что я правильно выполнил алгебру.) :-)

кардинал

@Cardinal ...which means that the relevant equations in my answer are

1 a

$1a$ and

2 a

$2a$ , which means that your inequality tells us that for

t

$t$ chosen to activate Samuelson Inequality, the probability of the event we are examining, cannot be greater than

1 / n

$1/n$ , i.e. not greater than randomly choosing any one realized value from the sample... which somehow makes some hazy intuitive sense: what is proven certainly impossible in deterministic terms, when approached probabilistically its probability bound does not exceed equiprobability... not clear in my mind yet.

Алекос Пападопулос