Пусть . Информационная матрица Фишера определяется как:
Как я могу доказать, что информационная матрица Фишера является положительной полуопределенной?
Пусть . Информационная матрица Фишера определяется как:
Как я могу доказать, что информационная матрица Фишера является положительной полуопределенной?
Ответы:
Проверьте это: http://en.wikipedia.org/wiki/Fisher_information#Matrix_form
Из определения мы имеем
Для ненулевой векторты = ( ты1, … , ТыК)⊤∈ RN , то из линейности в надежде , что
Σi , j = 1КUяяя жUJ= ∑i , j = 1К( тыяЕθ[ ( ∂яжурналеИкс∣ Θ( X∣θ))(∂jlogfX∣Θ(X∣θ))]uj)=Eθ[(∑i=1kui∂ilogfX∣Θ(X∣θ))(∑j=1kuj∂jlogfX∣Θ(X∣θ))]=Eθ⎡⎣(∑i=1kui∂ilogfX∣Θ(X∣θ))2⎤⎦≥0.
Если это компонентное обозначение слишком уродливо, обратите внимание, что информационная матрица ФишераH=(Iij) может быть записана как H=Eθ[SS⊤] , в которой вектор S оценок определяется как
S=(∂1logfX∣Θ(X∣θ),…,∂klogfX∣Θ(X∣θ))⊤.
Следовательно, мы имеем однострочникu⊤Hu=u⊤Eθ[SS⊤]u=Eθ[u⊤SS⊤u]=Eθ[||S⊤u||2] ≥0.
источник
ВНИМАНИЕ: не общий ответ!
источник