Зачем нам нужны сигма-алгебры для определения вероятностных пространств?

122

У нас есть случайный эксперимент с различными результатами , образующих пространство образца Ω, на котором мы смотрим с интересом на некоторые модели, под названием события F. Сигма-алгебры (или сигма-поля) состоят из событий, которым может быть назначена мера вероятности PОпределенные свойства выполняются, включая включение нулевого множества и всего выборочного пространства, а также алгебру, которая описывает объединения и пересечения с диаграммами Венна.

Вероятность определяется как функция между σ -алгеброй и интервалом [0,1] . В целом тройка (Ω,F,P) образует вероятностное пространство .

Может ли кто-нибудь объяснить простым языком, почему здание вероятности рухнет, если у нас не будет σ алгебры? Они просто вклиниваются посередине с этим невероятно каллиграфическим «F». Я верю, что они необходимы; Я вижу, что событие отличается от результата, но что было бы неправильно без σ алгебры?

Вопрос в том, в каком типе вероятностных задач определение вероятностного пространства, включающего σ алгебру, становится необходимостью?


Этот онлайн-документ на веб-сайте Дартмутского университета дает понятное объяснение на английском языке. Идея заключается в вращающемся указателе, вращающемся против часовой стрелки на окружности единицы периметра:

введите описание изображения здесь

Мы начнем с построения счетчика, который состоит из окружности единичной окружности и указателя, как показано на рисунке. Мы выбираем точку на окружности и обозначаем ее 0 , а затем обозначаем каждую другую точку на окружности расстоянием, скажем, x , от 0 до этой точки, измеренным против часовой стрелки. Эксперимент состоит из вращения указателя и записи метки точки на кончике указателя. Пусть случайная величина X обозначает значение этого результата. Пространство выборки явно интервал [0,1), Мы хотели бы построить вероятностную модель, в которой каждый результат одинаково вероятен. Если мы поступим так же, как [...] для экспериментов с конечным числом возможных результатов, то мы должны присвоить вероятность 0 каждому результату, поскольку в противном случае сумма вероятностей по всем возможным результатам не будет равно 1. (На самом деле сложение несчетного числа действительных чисел - сложная задача; в частности, для того, чтобы такая сумма имела какое-либо значение, не более чем счетное число слагаемых может отличаться от 0 ) Однако, если все назначенные вероятности равны 0 , тогда сумма равна 0 , а не 1 , как и должно быть.

Таким образом, если бы мы присвоили каждой точке любую вероятность и, учитывая, что существует бесконечное количество точек, их сумма в сумме составила бы >1 .

Антони Пареллада
источник
9
Кажется самоубийственным задавать вопросы о полях, в которых не упоминается теория меры! σ
Сиань
5
Я сделал, хотя ... Я не уверен, что понимаю ваш комментарий.
Антони Пареллада
8
Конечно, потребность в сигма-полях - это не просто вопрос мнения ... Я думаю, что это можно обсудить по теме здесь (на мой взгляд).
gung
8
Если ваша потребность в теории вероятностей ограничена "головами" и "хвостами", тогда, очевидно, нет необходимости в полях! σ
Сиань
26
Я думаю, что это хороший вопрос. Так часто вы видите в учебниках совершенно лишние ссылки на вероятностные тройки которые автор затем впоследствии полностью игнорирует. (Ω,F,P)
dsaxton

Ответы:

124

К первому пункту Сианя: когда вы говорите об алгебрах, вы спрашиваете об измеримых множествах, поэтому, к сожалению, любой ответ должен быть сосредоточен на теории меры. Я постараюсь довести это до конца нежно.σ

Теория вероятностей, допускающая все подмножества несчетных множеств, сломает математику

Рассмотрим этот пример. Предположим, у вас есть единичный квадрат в , и вас интересует вероятность случайного выбора точки, которая является членом определенного набора в единичном квадрате. Во многих случаях на это можно легко ответить на основе сравнения областей различных наборов. Например, мы можем нарисовать несколько кругов, измерить их площади, а затем взять вероятность как долю квадрата, попадающего в круг. Очень простой.R2

Но что, если область набора интересов не является четко определенной?

Если область не является четко определенной, то мы можем сделать два разных, но вполне обоснованных (в некотором смысле) вывода о том, что это за область. Таким образом, мы могли бы иметь с одной стороны и P ( A ) = 0 с другой стороны, что влечет 0 = 1 . Это ломает всю математику без возможности восстановления. Теперь вы можете доказать 5 < 0 и ряд других нелепых вещей. Очевидно, это не слишком полезно.P(A)=1P(A)=00=15<0

алгебры - это патч, исправляющий математикуσ

Что такое алгебра, точно? На самом деле это не так страшно. Это просто определение того, какие наборы могут рассматриваться как события. Элементы не в F просто не имеют определенной вероятностной меры. По сути, σ- алгебры - это «патч», который позволяет нам избежать некоторых патологических поведений математики, а именно неизмеримых множеств.σFσ

Три требования поля можно рассматривать как последствия того, что мы хотели бы сделать с вероятностью: σ- поле - это множество, которое имеет три свойства:σσ

  1. Закрытие под исчисляемыми союзами.
  2. Закрытие под счетными пересечениями.
  3. Закрытие под дополнения.

Счетные объединения и компоненты счетных пересечений являются прямыми следствиями неизмеримых множеств. Закрытие под комплементами является следствием аксиом Колмогорова: если , Р ( с ) должен быть 1 / 3 . Но без (3) может случиться, что P ( A c ) не определено. Это было бы странно. Замыкание по дополнениям и аксиомы Колмогорова позволяют говорить такие вещи, как P ( A A c ) = P (P(A)=2/3P(Ac)1/3P(Ac) .P(AAc)=P(A)+1P(A)=1

Наконец, мы рассматриваем события, связанные с , поэтому мы дополнительно требуем, чтобы Ω FΩΩF

Хорошая новость: алгебры строго необходимы только для несчетных множествσ

Но! Здесь также есть хорошие новости. Или, по крайней мере, способ обойти проблему. Нам нужны только алгебры, если мы работаем в наборе с неисчислимым количеством элементов. Если мы ограничимся счетных множеств, то мы можем взять F = 2 Ом булеана Ом , и мы не будем иметь любой из этих проблем , потому что для счетного Ом , 2 Ω состоит только из измеримых множеств. (Это упоминается во втором комментарии Сианя.) Вы заметите, что некоторые учебники на самом деле совершают тонкую ловкость рук и рассматривают счетные множества только при обсуждении вероятностных пространств.σF=2ΩΩΩ2Ω

Кроме того, в геометрических задачах в вполне достаточно рассматривать только σ -алгебры, составленные из множеств, для которых определена мера L n . Чтобы обосновать это несколько более твердо, L n для n = 1 , 2 , 3 соответствует обычным представлениям о длине, площади и объеме. Итак, в предыдущем примере я говорю о том, что для набора необходимо иметь четко определенную область, чтобы ему была назначена геометрическая вероятность. И причина в том, что: если мы допустим неизмеримые множества, то мы можем оказаться в ситуациях, когда мы можем присвоить вероятность 1 некоторому событию на основе некоторого доказательства, а вероятность 0 -RnσLnLnn=1,2,3то же событие, основанное на некоторых других доказательствах.

Но не позволяйте соединению с бесчисленными множествами сбить вас с толку! Распространенное заблуждение, что алгебры являются счетными множествами. На самом деле, они могут быть исчисляемыми или неисчисляемыми. Рассмотрим эту иллюстрацию: как и раньше, у нас есть единичный квадрат. Определить F = все подмножества единичного квадрата с определенной   мерой L 2 . Вы можете нарисовать квадрат B с длиной стороны s для всех s ( 0 , 1 ) и с одним углом в ( 0 , 0 )σ

F=All subsets of the unit square with defined L2 measure.
Bss(0,1)(0,0), Должно быть понятно, что этот квадрат является подмножеством единичного квадрата. Более того, все из этих квадратов определили площадь, так что эти квадраты являются элементами . Но также должно быть ясно, что существует бесчисленное количество квадратов B : число таких квадратов неисчислимо, и каждый квадрат определил меру Лебега.FB

Поэтому на практике достаточно просто сделать это наблюдение достаточным для того, чтобы сделать наблюдение, в котором вы рассматриваете только измеримые по Лебегу множества, чтобы добиться прогресса в решении проблемы интересов.

Но подождите, что такое неизмеримый набор?

Боюсь, я могу только пролить немного света на это сам. Но парадокс Банаха-Тарского (иногда парадокс «солнца и гороха») может нам помочь:

Для заданного сплошного шара в трехмерном пространстве существует разложение шара на конечное число непересекающихся подмножеств, которые затем можно соединить по-разному, чтобы получить две идентичные копии исходного шара. Действительно, процесс сборки включает в себя только перемещение деталей и их вращение без изменения их формы. Однако сами кусочки являются не «твердыми телами» в обычном смысле, а бесконечным рассеянием точек. Реконструкция может работать всего с пятью частями.

Более сильная форма теоремы подразумевает, что при наличии любых двух «разумных» твердых объектов (таких как маленький шар и огромный шар) любой из них может быть повторно собран в другой. Об этом часто говорят неформально: «горох можно нарезать и снова собрать в Солнце» и называют «парадоксом гороха и солнца». 1

Поэтому, если вы работаете с вероятностями в и используете геометрическую меру вероятности (соотношение объемов), вы хотите определить вероятность какого-либо события. Но вы будете изо всех сил пытаться точно определить эту вероятность, потому что вы можете изменить наборы своего пространства, чтобы изменить объемы! Если вероятность зависит от объема, и вы можете изменить объем набора на размер солнца или размер гороха, то вероятность также изменится. Поэтому ни одному событию не будет приписано ни одной вероятности. Хуже того, вы можете переставить S Ω так, чтобы объем S имел V ( S ) > V ( Ω )R3SΩSV(S)>V(Ω)Это означает, что геометрическая мера вероятности сообщает о вероятности , что является грубым нарушением аксиом Колмогорова, которые требуют, чтобы мера вероятности имела меру 1.P(S)>1

Чтобы разрешить этот парадокс, можно сделать одну из четырех уступок:

  1. Громкость набора может измениться, когда он вращается.
  2. Объем объединения двух непересекающихся множеств может отличаться от суммы их объемов.
  3. Аксиомы теории множеств Цермело-Френкеля с аксиомой выбора (ZFC), возможно, придется изменить.
  4. Некоторые наборы могут быть помечены как «неизмеримые», и нужно будет проверить, является ли набор «измеримым», прежде чем говорить о его объеме.

σ

Sycorax
источник
5
L
7
σ
2
@ Сиань Спасибо за добрые слова! Это действительно много значит от вас. Я не был знаком с парадоксом Бореля-Колмогорова на момент написания этой статьи, но я немного прочту и посмотрю, удастся ли мне сделать полезное дополнение моих выводов.
Sycorax
3
@ Student001: Я думаю, что мы раскалываемся здесь. Вы правы в том, что общее определение «меры» (любая мера) дается с использованием понятия сигма-алгебр. Однако я хочу сказать, что в определении меры Лебега, приведенном в моей первой ссылке, нет слова или понятия «сигма-алгебра». Другими словами, можно определить меру Лебега согласно моей первой ссылке, но затем нужно показать, что это мера, и это сложная часть. Я согласен, что мы должны прекратить это обсуждение, хотя.
амеба,
3
Мне очень понравилось читать ваш ответ. Я не знаю, как вас отблагодарить, но вы многое прояснили! Я никогда не изучал реальный анализ и не имел правильного введения в математику. Происходит из электротехники, которая много внимания уделяла практической реализации. Вы написали это так просто, что такой парень, как я, мог это понять. Я очень ценю ваш ответ и простоту, которую вы предоставили. Также спасибо @ Сиань за его упакованные комментарии!
Zushauque
19

[0,18),[18,25),[25,34),(Ω,F)F[18,25)[20,30)[20,30)F

(Ω,F)f:f1(1)Ff

FFABABAB, Теперь требование замкнутости для счетных пересечений и объединений позволяет нам запрашивать счетные союзы или дизъюнкции. И отрицание вопроса представлено дополнительным набором. Это дает нам сигма-алгебру.

Я впервые увидел такое введение в очень хорошей книге Питера Уиттла «Вероятность через ожидание» (Springer).

РЕДАКТИРОВАТЬ

iiσσnσnσ

Но нужен ли нам строгий закон больших чисел? Согласно одному ответу здесь , возможно нет.

nn

σ

Къетил б Халворсен
источник
4
σP(A)[20,30)P(A)[20,30)P(A)[18,34)четко определены, так что даже не ясно, что этот пример иллюстрирует то, что вы хотите.
Sycorax
5
σσ
2
σ
3
Я думаю, что ваш аргумент обоснован. В конце концов, я был немного озадачен, когда столкнулся с этим утверждением: «требование замкнутости для счетных пересечений и объединений позволяет нам задавать счетные соединения или дизъюнкции». Похоже, в этом суть проблемы: зачем кому-то строить такое бесконечно сложное событие? Хороший ответ на этот вопрос сделает остальную часть вашего поста более убедительной.
whuber
2
В практическом использовании: теория вероятностей и мер, используемая в математике финансов (включая стохастические дифференциальные уравнения, интегралы Ито, фильтрации алгебр и т. Д.), Выглядит так, как будто это невозможно без сигма-алгебр. (Я не могу проголосовать за изменения, потому что я уже проголосовал за ваш ответ!)
whuber
2

σ

σAB(AB)C . Чтобы процитировать этот запоминающийся ответ :

Первая аксиома состоит в том, что ∅, 𝑋∈𝜎. Ну, вы ВСЕГДА знаете вероятность того, что ничего не происходит (0) или что-то происходит (1).

Вторая аксиома замкнута относительно дополнений. Позвольте мне привести глупый пример. Опять же, рассмотрим бросок монеты с 𝑋 = {𝐻, 𝑇}. Притворимся, что я говорю вам, что алгебра this для этого переворота - {∅, 𝑋, {𝐻}}. То есть я знаю вероятность того, что НИЧЕГО не случится, ЧТО-ТО случится, и головы, но я не знаю вероятности хвостов. Вы бы правильно назвали меня идиотом. Потому что, если вы знаете вероятность появления головы, вы автоматически знаете вероятность появления хвоста! Если вы знаете вероятность того, что что-то происходит, вы знаете вероятность того, что это не произойдет (дополнение)!

Последняя аксиома замкнута относительно счетных союзов. Позвольте мне привести еще один глупый пример. Рассмотрим бросок кубика, или 𝑋 = {1,2,3,4,5,6}. Что если я скажу вам, что алгебра для этого есть {∅, 𝑋, {1}, {2}}. То есть я знаю вероятность броска 1 или 2, но я не знаю вероятности бросить 1 или 2. Опять же, вы с полным основанием назвали бы меня идиотом (надеюсь, причина ясна). То, что происходит, когда наборы не пересекаются, и то, что происходит с бесчисленными профсоюзами, немного запутанно, но я надеюсь, что вы можете попытаться придумать несколько примеров.

σ

Ну, это не совсем чистый случай, но есть несколько веских причин, почему .

Почему вероятностники нуждаются в мерах?

σσP

Люди приводят набор Виталия и Банаха-Тарского, чтобы объяснить, почему вам нужна теория меры, но я думаю, что это вводит в заблуждение . Множество Витали уходит только для (нетривиальных) мер, трансляционно-инвариантных, в которых вероятностные пространства не требуются. А Банах-Тарский требует вращения-инвариантности. Люди, занимающиеся анализом, заботятся о них, а вероятностные люди - нет .

Смысл существование теории меры в теории вероятностей является унифицировать обработку дискретных и непрерывных RVs, и , кроме того, позволяет RVs, которые смешиваются и RVs, которые просто ни.

Яфарт Агарвал
источник
σσ