Использование разложения по сингулярным значениям для вычисления ковариационной матрицы дисперсии из модели линейной регрессии

9

У меня есть матрица расчета p-регрессоров, n наблюдений, и я пытаюсь вычислить выборочную матрицу дисперсии-ковариации параметров. Я пытаюсь напрямую рассчитать его с помощью SVD.

Я использую R, когда я беру svd матрицы проектирования, я получаю три компонента: матрицу которая является n × p , матрицу D, которая составляет 1 × 3 (предположительно, собственные значения), и матрицу V, которая составляет 3 × 3. , Я диагонали D , делая ее матрицей 3 × 3 с нулями в недиагоналах.Un×pD1×3V3×3D3×3

Предположительно, формула для ковариации: , однако, матрица не совпадает, и не является даже близко к R встроенный в функции, . У кого-нибудь есть какие-либо советы / рекомендации? Я признаю, что я немного неквалифицирован в этой области.VD2Vvcov

Будет
источник

Ответы:

15

β^N(β,σ2(XTX)1).

X=UDVTXTX=VDUTUDV=VD2VT

(XTX)1=VD2VT.

σ^2=1np(yTyβ^TXTy).

σ^2VD2VT

VD2VTXTXR

vcov.matrix <- var.est * (v %*% d^(-2) %*% t(v))

наблюдая, что для умножения матриц мы используем %*%вместо просто *. var.estВыше приведена оценка дисперсии шума.

Xnp

кардинальный
источник
@ Хорошо, хорошо. Рад, что это сработало. Тогда вы можете принять ответ. С уважением.
кардинал
Я попробовал уравнение, но это не совсем работает. stats.stackexchange.com/questions/195379/…
HelloWorld