В чем разница между многообразным обучением и нелинейным уменьшением размерности?

9

В чем разница между многообразным обучением и нелинейным уменьшением размерности ?


Я видел эти два термина взаимозаменяемо. Например:

http://www.cs.cornell.edu/~kilian/research/manifold/manifold.html :

Изучение многообразия (часто также называемое нелинейным уменьшением размерности) преследует цель встраивать данные, которые изначально лежат в многомерном пространстве, в низкоразмерное пространство, сохраняя при этом характерные свойства.

http://www.stat.washington.edu/courses/stat539/spring14/Resources/tutorial_nonlin-dim-red.pdf :

В этом уроке «многократное обучение» и «уменьшение размерности» используются взаимозаменяемо.

https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3337666/ :

Методы уменьшения размерности - это класс алгоритмов, которые используют математически определенные многообразия для статистической выборки многомерных классов, чтобы создать правило дискриминации с гарантированной статистической точностью.

Однако http://scikit-learn.org/stable/modules/manifold.html более нюансирован:

Многообразное обучение - это подход к нелинейному уменьшению размерности.

Первое отличие, которое я вижу, состоит в том, что многообразие может быть линейным, поэтому следует сравнить нелинейное обучение многообразия и нелинейное уменьшение размерности.

Франк Дернонкур
источник

Ответы:

4

Нелинейное уменьшение размерности происходит, когда метод, используемый для сокращения, предполагает, что многообразие, на котором лежат скрытые переменные, хорошо ... нелинейно.

Так что для линейных методов многообразие - это n-мерная плоскость, то есть аффинная поверхность, для нелинейных методов - нет.

Термин «обучение многообразию» обычно означает геометрические / топологические методы, которые изучают нелинейное многообразие.

Таким образом, мы можем думать о многообразном обучении как о подмножестве нелинейных методов уменьшения размерности.

Сенгилей
источник