Доказательство того, что производящие функции момента однозначно определяют вероятностные распределения

19

Wackerly др текстовой утверждает эту теорему «Пусть mx(t) и my(t) обозначат момент-производящих функции случайных величин X и Y, соответственно. Если оба момента , генерирующие функции существуют и mx(t)=my(t) для всех значений t, тогда X и Y имеют одинаковое распределение вероятностей ". без доказательства того, что это выходит за рамки текста. Шеффер Янг также имеет ту же теоремубез доказательства. У меня нет копии Casella, но поиск книг в Google, похоже, не нашел в ней теоремы.

Текст Гута, кажется, содержит набросок доказательства , но не ссылается на «общеизвестные результаты», а также требует знания другого результата , доказательство которого также не представлено.

Кто-нибудь знает, кто первоначально доказал это, и есть ли доказательства где-нибудь в Интернете? Иначе как можно было бы заполнить детали этого доказательства?

На случай, если меня спросят «нет», это не домашнее задание, но я могу представить, что это может быть чья-то домашняя работа. Я взял последовательность курсов, основанную на тексте Вакерли, и меня некоторое время интересовало это доказательство. Поэтому я решил, что пришло время спросить.

Крис Симокат
источник
3
Если у вас есть доступ к тексту Биллингсли « Вероятность и мера» , это обсуждается в разделе, озаглавленном «Метод моментов». (Извиняюсь за неопределенность, поскольку у меня его сейчас нет под рукой.) Если я правильно помню, доказательство, которое он использует, опирается на соответствующие результаты для характеристических функций, которые, возможно, не полностью удовлетворяют. Это, конечно (хорошо) выходит за рамки ожидаемого фона текста Вакерли.
кардинал
1
Вау, @cardinal, ваши ответы на эти вопросы были превосходными и очень полезными, спасибо и спасибо за текстовую рекомендацию, я должен взять копию.
Крис Симокат
2
@cardinal Я получил доступ к Billigsley до того, как увидел твою заметку и добавил описание доказательства к моему предыдущему ответу.
Майкл Р. Черник
2
Что касается истории («кто первоначально это доказал?»), То, похоже, Лаплас использовал характеристическую функцию для такого рода работ в 1785 году и разработал общую формулу обращения (которая является ключом к доказательству) к 1810 году. См. Андерс Хальд , История математической статистики с 1750 по 1930 год , глава 17.
whuber

Ответы:

25

Общее доказательство этого можно найти в работе Феллера («Введение в теорию вероятностей и ее приложения», том 2) . Это проблема обращения, включающая теорию преобразования Лапласа. Вы заметили, что mgf имеет поразительное сходство с преобразованием Лапласа? Для использования преобразования Лапласа вы можете увидеть Widder (Calcus Vol I) .

Доказательство особого случая:

Предположим, что X и Y являются случайными переменными, которые принимают только возможные значения в { }. Далее, предположим, что X и Y имеют одно и то же значение mgf для всех t: n 0,1,2,,n Для простоты мы будем обозначатьs=ет и мы определимci=f

x=0netxfX(x)=y=0netyfY(y)
s=et для i = 0 , 1 , , n .ci=fX(i)fY(i)i=0,1,,n

Теперь n x = 0 s x f X ( x ) - n y = 0 s y f Y ( y ) = 0 n

x=0netxfX(x)y=0netyfY(y)=0
x=0nsxfX(x)y=0nsyfY(y)=0
n x = 0 sx[fX(x)-fY(x)]=0 n x = 0 sxcx=0
x=0nsxfX(x)x=0nsxfY(x)=0
x=0nsx[fX(x)fY(x)]=0
Вышесказанное - это просто многочлен от s с коэффициентами c 0 , c 1 , , c n . Единственный способ, которым он может быть нулевым для всех значений s, - это если c 0 = c 1 = = c n = 0. Итак, мы имеем 0 = c i = f X ( i ) - f Y ( i ) для i = 0 , 1 ,
x=0nsxcx=0 s>0
c0,c1,,cnc0=c1==cn=00=ci=fX(i)fY(i) .i=0,1,,n

fX(i)=fY(i)i=0,1,,n

XYXY

Argha
источник
1
Главным образом функция генерирования момента однозначно определяет распределение.
Argha
8

Теорема, которую вы обсуждаете, является основным результатом теории вероятности / меры. Скорее всего, доказательства будут найдены в книгах по теории вероятностей или статистике. Я нашел аналогичный результат для характеристических функций, приведенный в Hoel Port and Stone pp 205-208

Такер С. 51-53

и Чунг с. 151-155 Это третье издание. У меня есть второе издание, и я имею в виду номера страниц во втором издании, опубликованном в 1974 году.

Доказательство для mgf, которое я нашел, было труднее найти, но вы можете найти его в книге Биллингли «Вероятность и мера», с. 342-345. На странице 342 Теорема 30.1 содержит теорему, которая отвечает проблеме моментов. На странице 345 Биллингсли утверждает, что если у вероятностной меры есть функция, генерирующая моменты M (s), определенная на интервале, окружающем 0, то гипотеза для теоремы 30.1 удовлетворяется, и, следовательно, мера определяется ее моментами. Но эти моменты s определяются M (s). Следовательно, мера определяется своей производящей момент функцией, если M (s) существует в окрестности 0. Таким образом, эта логика вместе с доказательством, которое он дает для теоремы 30.1, доказывает результат. Биллингсли также прокомментировал, что решение для осуществления 26.

Майкл Р. Черник
источник
6
Где это в Чунге? Вы имели в виду страницы 161-165, случайно? Тем не менее, это касается характерных функций , а не функций , генерирующих моменты , как того требует OP.
кардинал
1
@ cardinal Да, я знаю. Я упомянул результат для характерных функций, потому что это то, что я нашел до сих пор. Как я уже сказал, номера страниц в Чанге основаны на моем втором издании. Я не знаю, где это появляется в третьем издании. Я думаю, что должны быть некоторые источники, которые будут иметь результат для mgfs.
Майкл Р. Черник
1
Я проголосовал, потому что я тоже ценю ваш ответ, так что спасибо, что нашли время.
Крис Симокат
2

Обозначим момент, производящий функциюИкс по MИкс(T)знак равноЕеTИкс,

Теорема единственности. Если существуетδ>0 такой, что MИкс(T)знак равноMY(T)< для всех T(-δ,δ), тогда FИкс(T)знак равноFY(T) для всех Tр,

Чтобы доказать, что функция, генерирующая момент, определяет распределение, существует как минимум два подхода:

  • Чтобы показать эту конечность MИкс на (-δ,δ) подразумевает, что моменты Икс не увеличивайте слишком быстро, чтобы FИкс определяется (ЕИксК)КNкоторые в свою очередь определяются MИкс. This proof can be found in Section 30 of Billingsley, P. Probability and Measure.

  • To show that MX is analytic and can be extended to (δ,δ)×iRC, so that MX(z)=EezX, so in particular MX(it)=φX(t) for all tR, and then use the fact that φX determines FX. For this approach, see Curtiss, J. H. Ann. Math. Statistics 13:430-433 and references therein.

At undergraduate level, almost every textbook works with the moment generating function and states the above theorem without proving it. It makes sense, because the proof requires far more advanced mathematics than undergraduate level allows.

At the point when students have all the tools needed in the proof, they also have the maturity to work with the characteristic function φX(t)=EeitX instead. Almost every graduate textbook takes this path, they prove that the characteristic function determines the distribution and basically ignore moment generating functions altogether.

user334639
источник
Today, mgfs shouldnt be ignored as thry are much more useful numerically than the characteristic function
kjetil b halvorsen
1
Indeed! And yet I have never seen a textbook that emphasizes numerical methods but has deep enough math to give a proof of the Uniqueness Theorem.
user334639