Обратная ковариационная матрица против ковариационной матрицы в PCA

В PCA, имеет ли значение, если мы выбираем главные компоненты обратной ковариационной матрицы ИЛИ, если мы отбрасываем собственные векторы ковариационной матрицы, соответствующие большим собственным значениям?

Это связано с обсуждением в этом посте .

Заметим, что для положительно определенной ковариационной матрицы точность равна .$\mathbf \Sigma = \mathbf{UDU}'$$\boldsymbol \Sigma^{-1} = \mathbf {U D}^{-1} \mathbf U'$

Таким образом, собственные векторы остаются неизменными, но собственные значения точности являются обратными значениями собственных значений ковариации. Это означает, что самые большие собственные значения ковариации будут самыми маленькими собственными значениями точности. Поскольку у вас есть обратное, положительная определенность гарантирует, что все собственные значения больше нуля.

Следовательно, если вы сохраняете собственные векторы, относящиеся к наименьшим собственным значениям точности, это соответствует обычному PCA. Так как мы уже взяли взаимные ($k$$\bf D^{-1}$ ), только квадратный корень из точных собственных значений должен использоваться для завершения отбеливания преобразованных данных.

Кроме того, обратная ковариационная матрица пропорциональна частичной корреляции между векторами:

Corr(Xi, Xj | (Xothers )

Корреляция между Xi и Xj, когда все остальные фиксированы, это очень полезно для временных рядов.