Гауссовский процесс: свойства аппроксимации функции

Я изучаю гауссовский процесс и слышал только кусочки. Буду очень признателен за комментарии и ответы.

Верно ли, что для любого набора данных приближение функции гауссовского процесса даст нулевую или незначительную ошибку подгонки в точках данных? В другом месте я также слышал, что гауссовский процесс особенно хорош для шумных данных. Похоже, это находится в конфликте с низкой ошибкой подгонки для любых наблюдаемых данных?

Кроме того, вдали от точек данных, кажется, больше неопределенности (большая ковариация). Если да, то ведет ли он себя как локальные модели (RBF и т. Д.)?

Наконец, есть ли универсальное свойство аппроксимации?

Предположим, что выборка данных . Также предположим, что у нас есть ковариационная функция k ( x 1 , x 2 ) и нулевое среднее значение, заданное для процесса Гусиана. Распределение для новой точки x будет гауссовым со средним m ( x ) = k K - 1$D = (X, \mathbf{y}) = \{\mathbf{x}_i, y_i = y(x_i)\}_{i = 1}^N$$k(\mathbf{x}_1, \mathbf{x}_2)$$\mathbf{x}$

$$m(\mathbf{x}) = \mathbf{k} K^{-1} \mathbf{y}$$ и дисперсией Вектор k = { k ( x , x 1 ) , … , k ( x , x N ) } - вектор ковариаций, матрица K = { k ( x i , x j ) } N $$V(\mathbf{x}) = k(\mathbf{x}, \mathbf{x}) - \mathbf{k} K^{-1} \mathbf{k}^T.$$ $\mathbf{k} = \{k(\mathbf{x}, \mathbf{x}_1), \ldots, k(\mathbf{x}, \mathbf{x}_N)\}$ - матрица выборочных ковариаций. В случае, когда мы делаем прогноз, используя среднее значение апостериорного распределения для выборки,свойство свойствавыполняется. Действительно, m(X)=KK-1y=y. Но это не тот случай, если мы используем регуляризацию, т.е. включаем термин белый шум. в этом случае ковариационная матрица для выборки имеет видK+σI, но для ковариаций с действительными значениями функции мы имеем ковариационную матрицуK, а среднее значение для задней части m(X)=$K = \{k(\mathbf{x}_i, \mathbf{x}_j)\}_{i, j = 1}^N$ $$m(X) = K K^{-1} \mathbf{y} = \mathbf{y}.$$ $K + \sigma I$$K$ $$m(X) = K (K + \sigma I)^{-1} \mathbf{y} \neq \mathbf{y}.$$

$\sigma$$\sigma = 0$$\sigma$

$k$$O(n)$$n$