Связь между суммой гауссовых RV и гауссовой смеси

13

Я знаю, что сумма гауссианов является гауссовой. Итак, чем же отличается смесь гауссов?

Я имею в виду, смесь гауссианов - это просто сумма гауссиан (где каждый гауссиан умножается на соответствующий коэффициент смешения), верно?

njk
источник
7
Смесь гауссианов представляет собой взвешенную сумму гауссовых плотностей , а не взвешенную сумму гауссовских случайных величин.
вероятностная

Ответы:

7

Взвешенная сумма гауссовских случайных величин p i = 1 β i X i является гауссовой случайной величиной : если ( X 1 , , X p ) N p ( μ , Σ ), то β T ( X 1 , , X p ) N 1 ( βX1,,Xp

i=1pβiXi
(X1,,Xp)Np(μ,Σ)
βT(Икс1,...,Иксп)~N1(βTμ,βTΣβ)

Смесь гауссовых плотностей имеет плотность, заданную в виде взвешенной суммы гауссовых плотностей : которая почти всегда не равна гауссовой плотность. См., Например, синюю оценочную плотность смеси ниже (где желтая полоса является мерой изменчивости оценочной смеси):

е(;θ)знак равноΣязнак равно1пωяφ(;μя,σя)
введите описание изображения здесь

[Источник: Марин и Роберт, Байесовское ядро , 2007]

Икс~е(;θ)

Иксзнак равноΣязнак равно1пя(Zзнак равноя)Иксязнак равноИксZ
Икся~Nп(μя,σя)Zп(Zзнак равноя)знак равноωя
ZM(1;ω1,,ωp)
Сиань
источник
3

А вот код R, который дополняет ответ @ Xi'an:

par(mfrow=c(2,1))
nsamples <- 100000

# Sum of two Gaussians
x1 <- rnorm(nsamples, mean=-10, sd=1)
x2 <- rnorm(nsamples, mean=10, sd=1)
hist(x1+x2, breaks=100)

# Mixture of two Gaussians
z <- runif(nsamples)<0.5 # assume mixture coefficients are (0.5,0.5)
x1_x2 <- rnorm(nsamples,mean=ifelse(z,-10,10),sd=1)
hist(x1_x2,breaks=100)

введите описание изображения здесь

альберто
источник
1

Распределением суммы независимых случайных величин является свертка их распределений. Как вы заметили, свертка двух гауссианов оказывается гауссовой.

X,YZXYZ=XZ=Y

enthdegree
источник
Спасибо энтгри Я знаю, что следующий пример по своей сути неверен, но в любом случае он может быть интересным: скажем, у нас есть особый вид «смеси» (если мы все еще можем назвать ее «смесью») с 2 гауссовыми плотностями, где коэффициенты смешения оба соответствуют 1, это будет то же самое из суммы гауссовых RV?
njk
Нет, хотя ваша смесь rv будет гауссовой в этом случае, если вы добавите два RV с распределением компонента, сумма RV будет иметь большую дисперсию, чем RV смеси.
Enthdegree
@enthdegree Как смесь гауссов? Это все еще может быть бимодальным, если средства не совпадают, верно?
обучение
@ обучение, да ты прав. Когда я написал пред. комментарий по какой-то причине я предположил, что они имели то же самое значение.
Enthdegree