Условная вероятность непрерывной переменной

Предположим, что случайная величина следует непрерывному равномерному распределению с параметрами 0 и 10 (т. Е. ) $U$ $U \sim \rm{U}(0,10)$

Теперь давайте обозначим A событие, когда = 5, а B событие, когда равно или 6. Согласно моему пониманию, оба события имеют нулевую вероятность возникновения. $U$ $U$ $5$

Теперь, если мы рассмотрим вычисление , мы не можем использовать условный закон , потому что равно нулю. Однако моя интуиция подсказывает мне, что . $P(A|B)$ $P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}}$ $P(B)$ $P(A|B) = 1/2$

conditional-probability continuous-data uniform Новичок
источник

Что бы сказала вам ваша интуиция, если бы у была неоднородная плотность ?

U

$U$

0.02 u, u \in (0, 10)

$0.02u, u \in (0,10)$

Дилип Сарвейт

@DilipSarwate Моя интуиция сказала бы мне, что ответ - число немного ниже чем 0,5

Noob

Ответы:

«Понятие условной вероятности в отношении изолированной гипотезы, вероятность которой равна 0, недопустимо». А. Колмогоров

Для непрерывных случайных величин, и говорят, что условные распределения определяются тем свойством, что они восстанавливают исходную вероятностную меру, то есть для всех измеримых множеств , , Это означает, что условная плотность определяется произвольно на множествах нулевой меры или, другими словами, условная плотность определяется почти всюду . Поскольку множество имеет нулевую меру против меры Лебега, это означает, что вы можете определить оба значения $X$ $Y$ $A\in\mathcal{B}(\mathbf{X})$ $B\in\mathcal{B}(\mathbf{Y})$

P (X \in A, Y \in B) = \int_{B} d P_{Y} (y) \int_{B} d P_{X | Y} (x | y)

$\mathbb{P}(X\in A,Y\in B)=\int_B \text{d}P_Y(y) \int_B \text{d}P_{X|Y}(x|y)$

p_{X | Y} (x | y)

$p_{X|Y}(x|y)$

{5, 6}

$\{5,6\}$

p (5)

$p(5)$ и абсолютно произвольным образом, и, следовательно, вероятность может принимать любое значение.

p (6)

$p(6)$

P (U = 5 | U \in {5, 6})

$\mathbb{P}(U=5|U\in\{5,6\})$

Это не означает, что вы не можете определить условную плотность по формуле отношения как в двумерном нормальном случае, а просто потому, что плотность определяется только почти везде для обоих и .

f (y | x) = f (x, y) / f (x)

$f(y|x)=f(x,y)\big/f(x)$

x

$x$

y

$y$

«Было много бесполезных споров между компетентными вероятностными специалистами о том, какой из этих результатов является« правильным »». ET Джейнс

Тот факт, что ограничивающий аргумент (когда обращается в ноль) в приведенном выше ответе, по-видимому, дает естественный и интуитивный ответ, связан с парадоксом Бореля . Выбор параметризации в пределе имеет значение, как показано в следующем примере, который я использую в своих классах старшекурсников. $\epsilon$

Возьмем двумерную нормаль Какова условная плотность если ?

X, Y \overset{i.i.d.}{\sim} N (0, 1)

$X,Y\stackrel{\text{i.i.d.}}{\sim}\mathcal{N}(0,1)$ $X$ $X=Y$

Если начать с плотности соединения , «интуитивный» ответ будет [пропорционален] . Это может быть получено путем рассмотрения изменения переменной где имеет плотность . Следовательно, и Однако , если вместо этого рассмотреть изменение переменнойпредельная плотность является плотностью Коши $\varphi(x)\varphi(y)$ $\varphi(x)^2$

(x, t) = (x, y - x) \sim φ (x) φ (t + x)

$(x,t)=(x,y-x) \sim \varphi(x)\varphi(t+x)$

T = Y - X

$T=Y-X$

φ (t / \sqrt{2}) / \sqrt{2}

$\varphi(t/\sqrt{2})/\sqrt{2}$

f (x | t) = \frac{φ (x) φ (t + x)}{φ (t / \sqrt{2}) / \sqrt{2}}

$f(x|t)=\dfrac{\varphi(x)\varphi(t+x)}{\varphi(t/\sqrt{2})/\sqrt{2}}$

f (x | t = 0) = \frac{φ (x) φ (x)}{φ (0 / \sqrt{2}) / \sqrt{2}} = φ (x)^{2} \sqrt{2}

$f(x|t=0)=\dfrac{\varphi(x)\varphi(x)}{\varphi(0/\sqrt{2})/\sqrt{2}}=\varphi(x)^2\sqrt{2}$

(x, r) = (x, y / x) \sim φ (x) φ (r x) | x |

$(x,r)=(x,y/x) \sim \varphi(x)\varphi(rx)|x|$

R = Y / X

$R=Y/X$

ψ (r) = 1 / π {1 + r^{2}}

$\psi(r)=1/\pi\{1+r^2\}$ и условная плотность дается является Следовательно, И здесь лежит «парадокс»: события и такие же , как , но они приводят к различным условной плотности на .

X

$X$

R

$R$

f (x | r) = φ (x) φ (r x) | x | \times π {1 + r^{2}}

$f(x|r)=\varphi(x)\varphi(rx)|x| \times \pi \{1+r^2\}$

f (x | r = 1) = π φ (x)^{2} | x | / 2 .

$f(x|r=1)= \pi\varphi(x)^2|x|/2\,.$

R = 1

$R=1$

T = 0

$T=0$

X = Y

$X=Y$

X

$X$

Сиань
источник

Это просто неправильно. Если вы строгий курс теории вероятности вы увидите , что кондиционер на событиях нулевой меры является возможным, и практично. Рассмотрим бивариантный гауссов. Все знают, что вы можете обусловить, что первая переменная принимает значение ноль, хотя вероятность этого события равна нулю. Смотрите википедию. en.wikipedia.org/wiki/…

Яир Даон

Вот спорный ответ:

Сиань прав, что вы не можете обусловить события с нулевой вероятностью. Тем не менее, Yair также прав в том, что как только вы решите ограничить процесс , вы сможете оценить вероятность. Проблема в том, что существует множество ограничивающих процессов, которые достигают желаемого состояния.

Я думаю, что принцип безразличия может иногда разрешать такой выбор. В нем утверждается, что на результат не должен влиять произвольный обмен метками. в вашем случае, скажем, перевернуть интервал так, чтобы он был равномерным и точки 5 и 6 были переключены. Перемещение меняет ответ на . Таким образом, если вы выбрали другой лимитирующий процесс для одного, чем для другого, то вы путем произвольного изменения меток (в данном случае изменение положительной бесконечности для отрицательной бесконечности) получили другой результат. Это не должно происходить по принципу безразличия. Таким образом, ответ 0,5, как вы уже догадались. $(1, 11)$ $p$ $1-p$

Обратите внимание, что многие статистики не принимают принцип безразличия. Мне это нравится, потому что это отражает мою интуицию. Хотя я не всегда уверен, как его применять, может быть, через 50 лет он станет более массовым?

Нил Г
источник

Спасибо за вдумчивый пост. Я, например, серьезно сомневаюсь, что «принцип безразличия» когда-либо будет господствовать, потому что он не работает. Ваш аргумент распадается, когда базовые значения повторно выражены. Равномерное распределение на , возможно , таким образом , стать, скажем, распределение Коши, может стать , и становится . Ваш «принцип безразличия» теперь дает совершенно другой ответ. (Я использовал вероятностные преобразования для проработки этого примера.)

[0, 10]

$[0,10]$

5

$5$

0

$0$

6

$6$

\sqrt{1 - \frac{2}{\sqrt{5}}}

$\sqrt{1-\frac{2}{\sqrt{5}}}$

whuber

@whuber: аргумент flipping не будет работать для дистрибутива Коши, если вы не переключите его режим.

Нил Дж

Конечно, это так: есть много способов преобразовать одно непрерывное распределение в другое, которые меняют два значения. На самом деле, ваше «переворачивание» даже не сохранило первоначальный дистрибутив. (Он полностью изменил свою поддержку.) Таким образом, похоже, все, что вы делаете, - это замена одного дистрибутива другим. Кажется, здесь нет никакого действующего принципа.

whuber

@whuber: он заменил одно распределение другим, в результате чего однородные области вокруг 5 и 6 не изменились - таким же образом, я думаю, что уменьшение масштаба пытается оставить плотности неизменными в исходных кругах в парадоксе Бертрана .

Нил Дж

@whuber: Ты прав. Мне очень понравился ответ Картошки на один из моих вопросов. Я лично считаю, что если есть расхождение между теорией и интуицией, мы должны искать новые, более полные теории. Возможно, «принцип безразличия» не совсем верен или вообще неосуществим, но у меня есть естественное желание, чтобы теория вероятностей отвечала на вопросы, по которым у нас есть интуитивное понимание. Может быть, у Лебега был такой же страх по поводу интеграции Римана, когда он создавал свой интеграл?

Нил Дж

$A = [5 - \frac{\epsilon}{2} , 5 + \frac{\epsilon}{2}]$ $B = [5 - \frac{\epsilon}{4} , 5 + \frac{\epsilon}{4}] \cup [6 - \frac{\epsilon}{4} , 6 + \frac{\epsilon}{4}]$ $\epsilon \to 0$

$(X_1, X_2) \sim \mathcal{N}(0, \Sigma)$ $X_1$ $X_2 = 0$ $P(\xi = a) = 0$

Итак, да, вы можете придать смысл условию на события нулевой меры.

Яир Даон
источник

U \sim U [0, 10]

$U\sim \text{U}[0,10]$

0

$0$

10

$10$

A = {0}

$A=\{0\}$

B = {0, 6}

$B=\{0,6\}$

P (A | B) = 1 / 2

$P(A|B)=1/2$

[0, 10]

$[0,10]$

1 / 3

$1/3$

5

$5$

0

$0$

0

$0$

ε

$\varepsilon$

P (A | B) = \frac{P (A \cap B)}{P (B)} = \frac{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u}{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u + \int_{6 - \frac{ε}{4}}^{6 + \frac{ε}{4}} f (u) d u} = \frac{\frac{ε}{2}}{\frac{ε}{2} + \frac{ε}{2}} = 0.5

$P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}} = \frac{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} }}{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} + \int\limits_{6 - \frac{\varepsilon }{4}}^{6 + \frac{\varepsilon }{4}} {f\left( u \right)du} }} = \frac{{\frac{\varepsilon }{2}}}{{\frac{\varepsilon }{2} + \frac{\varepsilon }{2}}} = 0.5$

[5 - \frac{ε}{8}, 5 + \frac{ε}{8}]

$\left[ {5 - \frac{\varepsilon }{8},5 + \frac{\varepsilon }{8}} \right]$

\frac{1}{8}

${\frac{1}{8}}$

Это отлично подходит для интуиции, показывая, что нет единственного ответа: это основание для заявления Колмогорова, цитируемого @ Xi'an. Тот факт, что вам пришлось изменить свою процедуру, чтобы все вышло так, как вы думали, они должны предупредить вас о проблемах с этим подходом.

whuber

X_{2}

$X_2$

X_{1}

$X_1$

X_{2}

$X_2$

X_{1} = 0

$X_1=0$