Недавно я изучал автоэнкодеры. Если я правильно понял, автоэнкодер - это нейронная сеть, где входной слой идентичен выходному слою. Таким образом, нейронная сеть пытается предсказать результат, используя вход как золотой стандарт.
В чем полезность этой модели? Каковы преимущества попытки восстановить некоторые выходные элементы, сделав их максимально равными входным элементам? Зачем использовать все это оборудование, чтобы добраться до одной и той же отправной точки?
Авто кодировщики имеют входной слой, скрытый слой и выходной слой. Входные данные должны быть идентичны выходным, поэтому это скрытый слой, который нас интересует.
Скрытый слой образует некую кодировку ввода. «Целью автокодера является изучение сжатого, распределенного представления (кодирования) для набора данных». Если вход представляет собой 100-мерный вектор, и у вас есть 60 нейронов в скрытом слое, то алгоритм автоматического кодирования будет воспроизводить входные данные как 100-мерный вектор в выходном слое, в процессе чего вы получите 60-мерный вектор, который кодирует ваши входные данные. ,
Таким образом, целью автоматического кодирования является уменьшение размерности , среди многих других.
Он также может смоделировать вашу популяцию, чтобы при вводе нового вектора вы могли проверить, насколько отличается вывод от ввода. Если они "совершенно" одинаковы, вы можете предположить, что ввод соответствует населению. Если они "совсем" разные, то, вероятно, входные данные не относятся к населению, которое вы смоделировали.
Я рассматриваю это как своего рода «регрессию по нейронным сетям», когда вы пытаетесь получить функцию, описывающую ваши данные: ее вывод совпадает с вводом.
источник
Может быть, эти картины дают вам некоторую интуицию. Как указано выше, авто кодировщики пытаются извлечь некоторые высокоуровневые функции из обучающих примеров. Вы можете увидеть, как алгоритм прогнозирования используется для обучения каждого скрытого уровня отдельно для глубокого NN на втором изображении.
Фотографии взяты из русской википедии.
источник