Вопросы с тегом «backpropagation»

17
Различия между методами обратного распространения

Ради интереса я пытаюсь разработать нейронную сеть. Теперь для обратного распространения я увидел две техники. Первый используется здесь и во многих других местах. Что это делает: Он вычисляет ошибку для каждого выходного нейрона. Он распространяет его обратно в сеть (вычисляя ошибку для каждого...

17
Какова сложность времени для обучения нейронной сети с использованием обратного распространения?

Предположим, что NN содержит nnn скрытых слоев, mmm обучающих примеров, xxx объектов и ninin_i узлов на каждом уровне. Какова сложность времени для обучения этой NN с использованием обратного распространения? У меня есть базовая идея о том, как они находят временную сложность алгоритмов, но здесь...

9
Как эволюционные алгоритмы имеют преимущества перед обычными методами обратного распространения?

Как использование эволюционных алгоритмов для проектирования и обучения искусственных нейронных сетей имеет преимущества по сравнению с использованием обычных алгоритмов обратного...

9
Является ли среднеквадратическая ошибка всегда выпуклой в контексте нейронных сетей?

Множество ресурсов, о которых я упоминал, упоминают, что MSE великолепен, потому что он выпуклый. Но я не понимаю, как, особенно в контексте нейронных сетей. Допустим, у нас есть следующее: ИксИксX : учебный набор данных YYY : цели ΘΘ\Thetaf Θ : набор параметров модели (модель нейронной сети с...