Является ли теория вероятностей изучением неотрицательных функций, которые интегрируют / суммируют с одной?

26

Это, вероятно, глупый вопрос, но является ли теория вероятностей изучением функций, которые интегрируют / суммируют с одной?

РЕДАКТИРОВАТЬ. Я забыл неотрицательность. Так является ли теория вероятностей изучением неотрицательных функций, которые интегрируют / суммируют с одной?

probability mathematical-statistics measure-theory dontloo
источник

Да, вероятности всегда равны единице. Вероятности, с другой стороны, не имеют этого ограничения.

Майк Хантер,

2

Единственный разумный ответ на поставленный вопрос - нет, не в последнюю очередь потому, что есть много функций которые интегрируются в 1, но для которых не может представлять вероятности для некоторых и . Например, рассмотрим функцию, которая составляет 1,5 между 0 и 1 и -0,5 между 1 и 2, а 0 - везде. (но это также возможно «нет» и по другим причинам)

f

$f$

\int_{a}^{b} f (u) d u

$\int_{a}^b f(u) du$

a

$a$

b

$b$

Glen_b

2

Связано: stats.stackexchange.com/questions/214485/…

Ильмари Каронен

1

Есть серьезные бумаги о негативной вероятности, например, Морис С. Бартлетт. doi.org/10.1017/S0305004100022398

Ник Кокс

2

@dontloo то, к чему я стремился, теперь довольно хорошо освещено цитатой Дао в ответе Чакона.

Glen_b

31

На чисто формальном уровне можно было бы назвать теорию вероятностей изучением пространств мер с полной мерой один, но это было бы как называть теорию чисел изучением цепочек цифр, которые заканчиваются

- из Темы Терри Тао в теории случайных матриц .

Я думаю, что это действительно фундаментальная вещь. Если у нас есть вероятностное пространство и случайная величина с принудительной мерой , то причина плотность интегрируется в единицу, потому что . И это более фундаментально, чем pdfs против pmfs. $(\Omega, \mathscr F, P)$ $X : \Omega \to \mathbb R$ $P_X := P \circ X^{-1}$ $f = \frac{\text d P_X}{\text d\mu}$ $P(\Omega) = 1$

Вот доказательство:

\int_{R} f d μ = \int_{R} d P_{X} = P_{X} (R) = P ({ω \in Ω : X (ω) \in R}) = P (Ω) = 1.

$\int_{\mathbb R} f \,\text d\mu = \int_{\mathbb R} \,\text dP_X = P_X(\mathbb R) = P\left(\{\omega \in \Omega : X(\omega) \in \mathbb R\}\right) = P(\Omega) = 1.$

Это почти перефразирует ответ AdamO (+1), потому что все CDF являются càdlàg, и существует взаимно-однозначное соотношение между множеством CDF в и множеством всех вероятностных мер в , но так как CDF RV определяется с точки зрения его распределения, я рассматриваю вероятностные пространства как место, с которого «начинать» этот вид деятельности. $\mathbb R$ $(\mathbb R, \mathbb B)$

Я обновляюсь, чтобы уточнить соответствие между CDF и вероятностными показателями и то, как оба являются разумными ответами на этот вопрос.

Мы начнем с двух вероятностных мер и анализа соответствующих CDF. Вместо этого мы начинаем с CDF и смотрим на меру, вызванную им.

Пусть и - вероятностные меры на и пусть и - их соответствующие CDF (т.е. и аналогично для ). и и то, и другое представляло бы меру случайных переменных (то есть распределения), но на самом деле не имеет значения, откуда они для этого пришли. $Q$ $R$ $(\mathbb R, \mathbb B)$ $F_Q$ $F_R$ $F_Q(a) = Q\left((-\infty, a]\right)$ $R$ $Q$ $R$

Основная идея заключается в следующем: если и сходятся в достаточно богатом наборе множеств, то они соглашаются в -алгебре, порожденной этими множествами. Интуитивно понятно, что если у нас есть хорошо организованная коллекция событий, которая посредством счетного числа дополнений, пересечений и союзов образует все , то согласование всех этих множеств не оставляет места для разногласий ни по одному борелю поставил. $Q$ $R$ $\sigma$ $\mathbb B$

Давайте формализовать это. Пусть и пусть , то есть является подмножеством на котором и $\mathscr S = \{(-\infty, a] : a \in \mathbb R\}$ $\mathcal L = \{A \subseteq \mathbb R : Q(A) = R(A)\}$ $\mathcal L$ $\mathcal P(\mathbb R)$ $Q$ $R$ сходятся (и определяются). Обратите внимание, что мы позволяем им согласовывать неборелевские множества, поскольку как определено, не является обязательно подмножество . Наша цель состоит в том, чтобы показать , что . $\mathcal L$ $\mathbb B$ $\mathbb B \subseteq \mathcal L$

Оказывается, что ( -алгебра, порожденная ) на самом деле является , поэтому мы надеемся, что является достаточно большой коллекцией событий, и если всюду на то они «вновь вынуждены быть равны по всем . $\sigma(\mathscr S)$ $\sigma$ $\mathscr S$ $\mathbb B$ $\mathscr S$ $Q = R$ $\mathscr S$ $\mathbb B$

Заметим, что замкнут относительно конечных пересечений и что замкнут относительно дополнений и счетных непересекающихся пересечений (это следует из -аддитивности). Это означает, что является -системой, а является -системой . К - теорема поэтому мы имеем , что . Элементы $\mathscr S$ $\mathcal L$ $\sigma$ $\mathscr S$ $\pi$ $\mathcal L$ $\lambda$ $\pi$ $\lambda$ $\sigma(S) = \mathbb B \subseteq \mathcal L$ $\mathscr S$ не столь сложны, как произвольное борелевское множество, но потому что любое борелевское множество может быть сформировано из счетного числа дополнений, объединений и пересечений элементов , если между элементами и нет ни одного разногласия , то за этим последует до так как нет никаких разногласий по любому . $\mathscr S$ $Q$ $R$ $\mathscr S$ $B \in \mathbb B$

Мы только что показали, что если то (на ), что означает, что отображение из в - инъекция. $F_Q = F_R$ $Q = R$ $\mathbb B$ $Q \mapsto F_Q$ $\mathscr P := \{P : P \text { is a probability measure on } (\mathbb R, \mathbb B)\}$ $\mathcal F := \{F : \mathbb R \to \mathbb R : F \text { is a CDF}\}$

Теперь, если мы хотим подумать о том, чтобы идти в другом направлении, мы хотим начать с CDF и показать, что существует уникальная мера вероятности такая, что . Это установит что наше отображение на самом деле является биекцией. Для этого направления мы определяем без какой-либо ссылки на вероятность или меры. $F$ $Q$ $F(a) = Q\left((-\infty, a]\right)$ $Q \mapsto F_Q$ $F$

Сначала мы определим функцию меры Стилтьеса как функцию такую, что $G : \mathbb R \to \mathbb R$

не убывает $G$
непрерывно справа $G$

(и обратите внимание, что из этого определения следует, что быть càdlàg, но из-за дополнительного неубывающего ограничения «большинство» функций càdlàg не являются функциями меры Стилтьеса).

Можно показать, что каждая функция Стилтьеса индуцирует уникальную меру на определяемую (см., Например , вероятность и случайные процессы Дарретта для деталей на этом). Например, мера Лебега индуцируется . $G$ $\mu$ $(\mathbb R, \mathbb B)$

μ ((a, b]) = G (b) - G (a)

$\mu\left((a, b]\right) = G(b) - G(a)$

G (x) = x

$G(x) = x$

$F$ $\lim_{x\to-\infty} F(x) := F(-\infty) = 0$ $\lim_{x\to\infty} F(x) := F(\infty) = 1$ $F$ $Q$ $(\mathbb R, \mathbb B)$

Q ((a, b]) = F (b) - F (a) .

$Q\left((a, b]\right) = F(b) - F(a).$

Обратите внимание, как и поэтому является вероятностной мерой и является именно той, которую мы использовали бы для определения если бы мы шли в другом направлении. $Q\left((-\infty, a]\right) = F(a) - F(-\infty) = F(a)$ $Q\left((-\infty, -\infty]\right) = F(\infty) - F(-\infty) = 1$ $Q$ $F$

Все вместе мы уже видели , что отображение 1-1 и на так что мы действительно имеем взаимно однозначное соответствие между и . Возвращаясь к актуальному вопросу, это показывает, что мы могли бы эквивалентно удерживать либо CDF, либо вероятностные меры в качестве нашего объекта, для которого мы объявляем вероятность изучения (при этом также признавая, что это несколько нелепое усилие). Я лично все еще предпочитаю вероятностные пространства, потому что я чувствую, что теория более естественно движется в этом направлении, но CDF не являются «неправильными». $Q \mapsto F_Q$ $\mathscr P$ $\mathcal F$

JLD
источник

3

+1 для более широкой перспективы по этому вопросу; Вы правильно заметили, что функциональное пространство Кадохода Скорохода - это только настоящее представление о том, что влечет за собой теория вероятности, радикально отличающееся от борелевских, и открытия Скорохода датируются всего лишь ~ 40 годами или около того. Кто знает, что может открыть следующее столетие?

AdamO

1

@AdamO абсолютно, и есть более странные, такие как неархимедова вероятность, когда даже если они никогда не станут доминирующим представлением (и, насколько мне известно, никто серьезно не пытается это сделать), я считаю, что они помогают мне лучше понять стандартную формулировку ( например, насколько серьезной является сигма-аддитивность)

JDD

Я прочитал название вопроса и подумал об этой цитате от Теренса Тао; Должно быть, прочитал это много лет назад ( 2010 ), но это действительно запоминающимся. Как он продолжает: « На практическом уровне все наоборот»

ShreevatsaR

См. Мой комментарий к вопросу: как альтернативные теории вероятности, такие как байесовская (и модель Демпстера-Шафера и переносимая вера и теория Дезерта-Шмарандаш), неточные вероятности, теория правдоподобия и т. Д., Связаны с этим вопросом и обсуждением?

Э. Дуглас Дженсен

@ E.DouglasJensen Я не уверен, я рассматриваю это с точки зрения стандартных аксиом Колмогорова, поэтому в этом контексте я думаю, что мой ответ «правильный», но если мы меняем аксиомы, то я полагаю, что все ставки сняты , Кроме того, я совсем не философствую по этому поводу, поэтому, если мы пытаемся каким-либо образом связать это с реальным миром, например, с такими вопросами, как «какова вероятность того, что солнце встает», то я уверен, что оно становится более сложный Тем не менее, кажется вполне уверенным, что вероятность того, что «что-нибудь» произойдет, является максимальным значением (вероятно, ), и что в этом нет никакой неопределенности

1

$1$

JDD

12

Нет; распределение Кантор является именно такой контрпример. Это случайная величина, но она не имеет плотности. Однако у него есть функция распределения. Следовательно, я бы сказал, что теория вероятностей - это изучение функций Кадляга , в том числе Кантора Д. Ф., которые оставили пределы 0 и правые пределы 1.

Adamo
источник

Хорошо, я никогда не слышал о функциях cadlag. Тем не менее, они все еще предполагают вещественное и метрическое пространство. Не вся теория вероятностей делается на таких пространствах.

HRSE

1

Например, вы можете вернуться к Терренсу Файну, Теории вероятности. Также обратите внимание, что функции cadlag (по крайней мере, согласно статье в Википедии) имеют действительные числа в качестве домена. "Основы статистики" Л.Дж. Сэвиджа дают представление о (субъективной) теории вероятностей в пространствах, которые не обязательно являются действительными.

HRSE

1

@jwg Некоторые другие комментарии в этом посте касаются отрицательной вероятности, которая, кажется, имеет некоторое применение в квантовой физике, хотя мой простой ум не может постичь такую вещь.

AdamO

1

X

$X$

X : Ω \to R^{n}

$X : \Omega \to \mathbb R^n$

P_{X} := P \circ X^{- 1}

$P_X := P \circ X^{-1}$

P

$P$

(Ω, F)

$(\Omega, \mathscr F)$

X

$X$

P_{X}

$P_X$

(R^{n}, B^{n})

$(\mathbb R^n, \mathbb B^n)$

(- \infty, a]

$(-\infty, a]$

F

$F$

R^{n}

$\mathbb R^n$

1

x

$x$

y

$y$

x < y

$x<y$

x > y

$x>y$

x = y

$x=y$

N

$\mathbb N$

R

$\mathbb R$

C

$\mathbb C$

P

$P$ быть полностью заказанным или полным. Сложные оценочные меры - пример первого, а гиперреальные оценочные показатели - пример второго. Все это метрические пространства, хотя (или могут быть)

JDD

6

Я уверен, что вы получите хорошие ответы, но здесь у вас будет немного другая точка зрения.

Возможно, вы слышали, как математики говорят, что физика - это в значительной степени математика или просто приложение математики к самым основным законам природы. Некоторые математики (многие?) Действительно считают, что это так. Я слышал это снова и снова в университете. В связи с этим вы задаете аналогичный вопрос, хотя и не такой широкий, как этот.

Физики обычно даже не отвечают на это утверждение: для них слишком очевидно, что это неправда. Однако, если вы попытаетесь ответить, станет ясно, что ответ не так тривиален, если вы хотите, чтобы он был убедительным.

Мой ответ заключается в том, что физика - это не просто набор моделей, уравнений и теорий. Это поле со своим набором подходов, инструментов, эвристики и способов мышления. Это одна из причин, почему, хотя Пуанкаре разработал теорию относительности до Эйнштейна, он не осознавал всех последствий и не стремился привлечь всех на борт. Эйнштейн сделал, потому что он был физиком, и он сразу понял, что это значит. Я не фанат этого парня, но его работа над броуновским движением является еще одним примером того, как физик строит математическую модель. Эта статья удивительна и наполнена интуицией и следами мышления, которые явно физически.

Итак, мой ответ вам таков: даже если бы это было так, что вероятность имеет дело с видом функций, которые вы описали, это все равно не было бы изучением этой функции. Также это не теория меры, применяемая к некоторому подклассу мер. Теория вероятностей - это отдельная область, которая изучает вероятности, она связана с природным миром с помощью радиоактивного распада, квантовой механики, газов и т. Д. Если так получится, что определенные функции кажутся подходящими для моделирования вероятностей, то мы будем использовать их и изучать их свойства тоже, но пока будем так делать, мы будем следить за главным призом - вероятностями.

Аксакал
источник

1

+1 за то, что привнес реальность в математическую борьбу и фактически отвечает на вопрос единственно разумным ответом, то есть, что любой такой редукционизм упускает суть

JDD

@Chaconne Я выучил полезное слово сегодня редукционизм , включу его в свой словарный запас :)

Аксакал

+1, это то, что я пытался сказать своим ответом, но я сказал это менее эффективно, чем вы, я думаю.

Натаниэль

4

Ну, отчасти верно, ему не хватает второго условия. Отрицательные вероятности не имеют смысла. Следовательно, эти функции должны удовлетворять двум условиям:

$\int_{D} f (x) d x = 1 and f (x) > 0 \forall x \in D$ $\int_{\mathcal{D}}f(x) dx = 1 \quad \text{and} \quad f(x)>0 \; \forall x \in \mathcal{D}$
$\sum_{x \in D} P (x) = 1 and 0 < P (x) \leq 1 \forall x \in D$ $\sum_{x \in \mathcal{D}}P(x) = 1 \quad \text{and} \quad 0<P(x) \leq 1 \; \forall x \in \mathcal{D}$

$\mathcal{D}$

Карлос Кампос
источник

Большое спасибо Карлосу за ответ, на самом деле я хочу знать, что, если было добавлено неотрицательное условие?

dontloo

1

Я бы сказал, что сведение поля вероятности к изучению функций плотности / массы вероятности (удовлетворяющих верхним свойствам) слишком мало. Более того, как было сказано @AdamO, в некоторых случаях случайные величины не имеют функции плотности вероятности, даже если они имеют четко определенный cdf.

Карлос Кампос

@CarlosCampos: Относительно отрицательных вероятностей: они действительно имеют смысл в некоторых контекстах, например, пол-монеты. Смотрите en.wikipedia.org/wiki/Negative_probability для получения дополнительной информации.

Inkane

3

Я бы сказал, нет, это не та теория вероятностей, но я бы сказал это по другим причинам, чем другие ответы.

По сути, я бы сказал, теория вероятностей - это изучение двух вещей:

Стохастические процессы и
Байесовский вывод.

Стохастические процессы включают в себя такие вещи, как бросание игральных костей, извлечение шаров из урн и т. Д., А также более сложные модели из физики и математики. Байесовский умозаключение - это рассуждение в условиях неопределенности, использующее вероятности для представления значения неизвестных величин.

Эти две вещи более тесно связаны, чем могут показаться на первый взгляд. Одна из причин, по которой мы можем изучать их под одним и тем же зонтиком, заключается в том, что важные аспекты их обоих можно представить в виде неотрицательных функций, которые суммируют / интегрируют в одну. Но вероятность - это не только изучение этих функций - их интерпретация в терминах случайных процессов и умозаключений также является важной частью.

Например, теория вероятностей включает в себя такие понятия, как условные вероятности и случайные величины, а также такие величины, как энтропия, взаимная информация, а также ожидание и дисперсия случайных величин. В то время как можно было бы определить эти вещи исключительно в терминах нормализованных неотрицательных функций, мотивация для этого показалась бы довольно странной без интерпретации в терминах случайных процессов и умозаключений.

Более того, иногда можно встретить понятия в теории вероятностей, особенно на стороне вывода, которые нельзя выразить в терминах неотрицательной функции, которая нормализуется к единице. Здесь на ум приходят так называемые «неправильные приоры», и AdamO привел распределение Кантора в качестве другого примера.

Конечно, есть некоторые области теории вероятностей, в которых основной интерес представляют математические свойства нормализованных неотрицательных функций, для которых две области применения, которые я упомянул, не важны. Когда это так, мы часто называем это теорией измерения, а не теорией вероятности. Но теория вероятностей также является, я бы сказал, в основном, прикладной областью, и приложения распределений вероятностей сами по себе являются нетривиальной составляющей поля.

Натаниель
источник

2

Вы сделали область тем в теории вероятностей довольно узкой ...

Тим

@ Tim не специально - я разделил это на две области, но намеревался интерпретировать каждую из них очень широко. Можете ли вы дать мне некоторые другие темы, которые не подпадают под какой-либо заголовок?

Натаниэль

Является ли теория вероятностей изучением неотрицательных функций, которые интегрируют / суммируют с одной?

Ответы: