Что происходит с отношением правдоподобия, когда все больше и больше данных собирается?

11

Пусть f , g и h быть плотность и предположим, что xih , iN . Что происходит с отношением правдоподобия

i=1nf(xi)g(xi)
приn? (Это сходится? К чему?)

Например, мы можем предположить, что h=g . Общий случай также представляет интерес.

Оливье
источник
4
@ Сиань. Я думаю, что добавление этого вопроса в SE позволяет установить связь между вопросами в ответе. Хотя могут быть и общие черты ответа, вопросы не совпадают.
Джон
1
Спасибо за ссылку. Вопрос не является дубликатом, хотя ответы на мой вопрос могут включать расхождение Кульбака-Лейблера.
Оливье

Ответы:

15

Если взять логарифм этого произведения, и превращает его в среднее значение ˉ r n=1

r=logi=1nf(xi)g(xi)=i=1nlogf(xi)g(xi)
применяется закон больших чисел, следовательно, получается почти уверенная сходимость ˉ r n a.s. Eh[logf(X)
r¯n=1ni=1nlogf(xi)g(xi)
при условии, что этот интеграл хорошо определен [контрпримеры легко найти].
r¯na.s.Eh[logf(X)g(X)]=Xlogf(x)g(x)h(x)dx

Например, если , г и ч являются плотности для нормальных распределений с средством μ 1 , μ 2 , и нулю, соответственно, все с дисперсией одного, значение X лог - F ( х )fghμ1μ2 равно X { ( x - μ 1 ) 2 - ( x - μ 2 2 ) }

Xlogf(x)g(x)h(x)dx
X{(xμ1)2(xμ22)}φ(x)dx=μ12μ22.

Отметим также, что без усреднения произведение почти наверняка сходится к нулю (когдаxih(x)

i=1nf(xi)h(xi)
xih(x)). В то время как произведение почти наверняка сходится к нулю или бесконечности в зависимости от того,ближелиgилиfкhв смысле дивергенции Кульбака-Лейблера (когдаxih(x)
i=1nf(xi)g(xi)
gfhxih(x)).
Сиань
источник
g=h
1
f=gf=hghg=hfhfhfgghfgh
h
1
r=nrn
0

Zn=inp(x)q(x)

Wn=1nlog(Zn)=1ninlog(p(x)q(x))
limnWn=Eq(x)[log(p(x)q(x))]=Xlog(p(x)q(x))q(x)dx

log(a)<a1 a>0 a1p(x)q(x)>0p(x)q(x)

WnXlog(p(x)q(x))q(x)dx<X(p(x)q(x)1)q(x)dx=Xp(x)dxXq(x)dx=11=0
limnWn<0limn1nlog(Zn)<0limnn1nlog(Zn)=limnlog(Zn)=limnZn=0 

bgao
источник