Каковы различия между фильтрами, изученными в автоэнкодере и сверточной нейронной сети?

В CNN мы изучим фильтры для создания карты объектов в сверточном слое.

В Autoencoder каждый скрытый элемент каждого слоя может рассматриваться как фильтр.

Какая разница между фильтрами, изученными в этих двух сетях?

В случае фильтров CNN применяются к маленьким участкам изображения в каждом возможном местоположении (что также делает их инвариантным перевод).

Скрытые слои автоэнкодера получают целое изображение (вывод предыдущего слоя) в качестве входных данных, что не выглядит хорошей идеей для изображений: обычно только пространственные локальные объекты коррелируют, тогда как более удаленные менее коррелируют. Кроме того, эти скрытые нейроны не являются инвариантами трансляции.

Таким образом, CNN похожи на обычные ANN с особым видом регуляризации, который обнуляет большинство весов, чтобы использовать локальность.