Генерирующая момент функция внутреннего произведения двух гауссовских случайных векторов

9

Кто-нибудь может предложить, как я могу вычислить производящую момент функцию внутреннего произведения двух гауссовских случайных векторов, каждый из которых распределен как N(0,σ2) , независимо друг от друга? Есть ли какой-то стандартный результат для этого? Любой указатель высоко ценится.

abhibhat
источник

Ответы:

19

Адрес давайте сначала случай Σ=σI . В конце (легкое) обобщение на произвольное Σ .

Начнем с наблюдения, что внутренним произведением является сумма iid-переменных, каждая из которых является произведением двух независимых нормальных переменных, что сводит вопрос к нахождению mgf последних, поскольку mgf суммы является произведением мгфс.(0,σ)

MGF может быть найден путем интеграции, но есть более простой способ. Когда и Y стандартно нормальны,XY

ИксYзнак равно((Икс+Y)/2)2-((Икс-Y)/2)2

является разницей двух независимых масштабированных хи-квадратных переменных. (Масштабный коэффициент , так как дисперсии ( X ± Y ) / 2 равно 1 / 2 ) . Поскольку MGF из хи-квадрата случайной величины составляет 1 / 1/2(Икс±Y)/21/2 , мгс((X+Y)/2)2равно1/1/1-2ω((Икс+Y)/2)2 и мгф - -((X-Y)/2)2равно1/1/1-ω-((Икс-Y)/2)2 . Умножая, мы находим, что искомый mgf равен1/1/1+ω .1/1-ω2

(Для более поздней ссылки обратите внимание, что когда и Y масштабируются с помощью σ , их произведение масштабируется на σ 2 , откуда ω также должен масштабироваться на σ 2. )ИксYσσ2ωσ2

Это должно выглядеть знакомо: с точностью до некоторых постоянных факторов и знака это похоже на плотность вероятности для распределения Стьюдента с степенями свободы. (Действительно, если бы мы работали с характеристическими функциями вместо mgfs, мы получили бы 1 / 0 , что еще ближе к PDF студента.) Не берите в голову, что не существует такого понятия, как студент t с0dfs - все, что имеет значение, это то, что mgf будет аналитическим в окрестности0,и это ясно есть (по теореме бинома).1/1+ω200

Из этого сразу следует, что распределение внутреннего произведения этих i-гауссовых векторов имеет mgf, равное n- кратному произведению этого mgf,NN

(1-ω2σ4)-N/2,Nзнак равно1,2,...,

При поиске характеристической функции распределения Стьюдента, мы выводим (с крошечным битом алгебры или интеграцией , чтобы найти постоянную нормализующую) , что сам по себе PDF даются

fn,σ(x)=21n2|x|n12Kn12(|x|σ2)πσ4Γ(n2)

( - функция Бесселя).K

Например, здесь представлен график этой PDF , наложенной на гистограмме случайной выборки из таких внутренних произведений , где σ = 1 / 2 и п = 3 :105σ=1/2n=3

Гистограмма

Труднее подтвердить точность mgf из моделирования, но обратите внимание (из теоремы о биноме), что

(1+t2σ4)3/2=13σ4t22+15σ8t4835σ12t616+315σ16t8128+,

из которого мы можем прочитать моменты (разделенные на факториалы). Из-за симметрии около только четные моменты. Для σ = +1 / +2 мы получим следующие значения, в сравнении с сырьевыми моментами этого моделирования:0σ=1/2

 k    mgf           simulation/k!
 2    0.09375       0.09424920
 4    0.00732422    0.00740436
 6    0.00053406    0.00054128
 8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

Как и следовало ожидать, высокие моменты моделирования начнут отходить от моментов, заданных mgf; но, по крайней мере, до десятого момента, есть отличное согласие.


Между прочим, когда распределение является биэкспоненциальным.n=2


Чтобы разобраться с общим случаем, начните с того, что заметите, что внутреннее произведение является независимым от координат объектом. Поэтому мы можем взять главные направления (собственные векторы) качестве координат. В этих координатах внутренним произведением является сумма независимых произведений независимых нормальных переменных, причем каждый компонент распределен с дисперсией, равной его собственному собственному значению. Таким образом, если ненулевые собственные значения равны σ 2 1 , σ 2 2 , , σ 2 d (при 0 d n ), то mgf должен быть равенΣσ12,σ22,,σd20dn

(i=1d(1ω2σi4))1/2.

Чтобы подтвердить, что я не ошибся в этом рассуждении, я разработал пример, где - матрицаΣ

(1121812114181412)

и вычислил, что его собственные значения

(σ12,σ22,σ32)=(116(17+65),116(1765),38)(1.56639,0.558609,0.375).

106Xi(0,Σ)106Yi106XiYi1215

Гистограмма и PDF

Как и прежде, соглашение отличное. Кроме того, моменты совпадают хорошо через восьмой и достаточно хорошо, даже на десятом:

 k    mgf           simulation/k!
 2     1.45313       1.45208
 4     2.59009       2.59605
 6     5.20824       5.29333
 8    11.0994       11.3115
10    24.4166       22.9982

добавление

(Добавлено 9 августа 2013 г.)

fn,σ00σ2n/2

Whuber
источник
1
Σ
Я добавил новый раздел, чтобы предоставить некоторые (простые) детали этого обобщения, чтобы было ясно, что здесь нет ничего нового. Вы также можете использовать основные свойства mgfs, чтобы записать mgf в случае, когда данные также имеют ненулевое значение, тем самым решая проблему в полной общности.
whuber