Разъяснение в информационной геометрии

Этот вопрос связан с работой Амари « Дифференциальная геометрия изогнутых экспоненциальных семейств-искривлений и потеря информации ».

Текст выглядит следующим образом.

Пусть - мерное многообразие распределений вероятностей с системой координат , где предполагается , что ... $S^n=\{p_{\theta}\}$ $n$ $\theta=(\theta_1,\dots,\theta_n)$ $p_{\theta}(x)>0$

Мы можем рассматривать каждую точку из как несущую функцию из ... $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$

Пусть - касательное пространство в , которое, грубо говоря, отождествляется с линеаризованной версией малой окрестности в . Пусть - естественный базис связанный с согласованной системой ... $T_{\theta}$ $S^n$ $\theta$ $\theta$ $S^n$ $e_i(\theta), i=1,\dots,n$ $T_{\theta}$

Поскольку каждая точка из несет функцию из , естественно рассматривать в как представление функции $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$ $e_i(\theta)$ $\theta$

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x) .

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x).$

Я не понимаю последнее утверждение. Это появляется в разделе 2 вышеупомянутой статьи. Как базис касательного пространства задается приведенным выше уравнением? Было бы полезно, если бы кто-то в этом сообществе, знакомый с такого рода материалами, мог помочь мне понять это. Спасибо.

Обновление 1:

Хотя я согласен, что (от @aginensky), если линейно независимыто $\frac{\partial}{\partial\theta_i}p_{\theta}$ также линейно независимы, как они являются членами касательного пространствав первую очередь, не очень понятно. Так как же $\frac{\partial}{\partial\theta_i}\log p_{\theta}$ следует рассматривать как основу для касательного пространства. Любая помощь приветствуется. $\frac{\partial}{\partial\theta_i}\log p_{\theta}$

Обновление 2:

@aginensky: В своей книге Амари говорит следующее:

Рассмотрим случай, когда , множество всех (строго) положительных вероятностных мер на , где мы рассматриваем как подмножество . Фактически является открытым подмножеством аффинного пространства $S^n=\mathcal{P}(\mathcal{X})$ $\mathcal{X}=\{x_0,\dots,x_n\}$ $\mathcal{P}(\mathcal{X})$ $\mathbb{R}^{\mathcal{X}}=\{X\big|X:\mathcal{X}\to \mathbb{R}\}$ $\mathcal{P}(\mathcal{X})$ . $\{X\big |\sum_x X(x)=1\}$

Тогда касательное пространство к в каждой точке естественно отождествить с линейным подпространством . Для натуральной основы $T_p(S^n)$ $S^n$ $\mathcal{A}_0=\{X\big |\sum_x X(x)=0\}$ системы coordiante, имеем $\frac{\partial}{\partial\theta_i}$ $\theta=(\theta_1,\dots,\theta_n)$ . $(\frac{\partial}{\partial\theta_i})_{\theta}=\frac{\partial}{\partial\theta_i}p_{\theta}$

Далее, давайте возьмем другое вложение и отождествим с подмножеством из . Затем касательный вектор представляется результатом операции для , который мы обозначим через . В частности, у нас есть $p\mapsto \log p$ $S^n$ $\log S^n:=\{\log p\big |p\in S^n\}$ $\mathbb{R}^{\mathcal{X}}$ $X\in T_p(S^n)$ $X$ $p\mapsto \log p$ $X^{(e)}$ . Очевидно, чтои что $(\frac{\partial}{\partial\theta_i})_{\theta}^{(e)}=\frac{\partial}{\partial\theta_i}\log p_{\theta}$ $X^{(e)}=X(x)/p(x)$

T_{p}^{(e)} (S^{n}) = {X^{(e)} | X \in T_{p} (S^{n})} = {A \in R^{X} | \sum_{x} A (x) p (x) = 0} .

$T_p^{(e)}(S^n)=\{X^{(e)}\big |X\in T_p(S^n)\}=\{A\in \mathbb{R}^{\mathcal{X}}\big |\sum_x A(x)p(x)=0\}.$

Мой вопрос: если оба и $\frac{\partial}{\partial\theta_i}$ являются базисом для касательного пространства, тогда это не противоречит тому факту, чтои различны и $(\frac{\partial}{\partial\theta_i})^{(e)}$ $T_p$ $T_p^{(e)}$ ? $\frac{\partial}{\partial\theta_i}^{(e)}\in T_p^{(e)}$

$S^n,T_p$ $(\log S^n,T_p^{(e)})$

mathematical-statistics statistical-learning geometry information-geometry Ashok
источник

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x)

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)$

θ_{i}

$\theta_{i}$

\frac{\partial}{\partial θ_{i}}

$\frac{\partial}{\partial\theta_i}$

p_{θ}

$p_{\theta}$

Я попытался отредактировать свой комментарий для ясности, и мне не разрешили. Дайте мне знать, если вы хотите больше деталей.

Мех

\frac{\partial}{\partial θ_{i}} \log p_{θ} (x) = 1 / p_{θ} (x) \frac{\partial}{\partial θ_{i}} p_{θ} (x)

$\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)=1/p_{\theta}(x)\frac{\partial}{\partial\theta_i}p_{\theta}(x)$

{d θ_{i}}

$\{d\theta_i\}$

{\frac{\partial}{\partial θ_{i}}}

$\{\frac{\partial}{\partial\theta_i}\}$

d θ

$d\theta$

p_{θ}

$p_{\theta}$

Разъяснение в информационной геометрии

Ответы: