Почему нам нужно нормализовать изображения, прежде чем мы поместим их в CNN?

Мне не ясна причина, по которой мы нормализуем изображение для CNN (image - mean_image)? Благодарность!

Первое замечание: вам также следует делить на стандартное отклонение значения каждого элемента (пикселя). Вычитание среднего значения центрирует входной сигнал в 0, а деление на стандартное отклонение превращает любое масштабированное значение элемента в число стандартных отклонений от среднего значения.

Чтобы ответить на ваш вопрос: подумайте, как нейронная сеть узнает свой вес. C (NN) обучаются путем непрерывного добавления векторов ошибок градиента (умноженных на скорость обучения), вычисленных по обратному распространению, в различные весовые матрицы по всей сети по мере прохождения обучающих примеров.

Здесь следует отметить «умноженное на скорость обучения».

Если бы мы не масштабировали наши входные обучающие векторы, диапазоны наших распределений значений признаков, вероятно, были бы различными для каждой функции, и, таким образом, скорость обучения вызывала бы корректировки в каждом измерении, которые отличались бы (пропорционально) друг от друга. Мы могли бы перекомпенсировать коррекцию в одном весовом измерении, в то время как компенсировать в другом.

Это неидеально, так как мы можем оказаться в колеблющемся (неспособном центрироваться на лучшем максимуме в пространстве (вес)) состоянии или в медленном (движущемся слишком медленно, чтобы достичь лучших максимумов) состоянии.

Конечно, возможно иметь коэффициент обучения на вес, но это еще больше гиперпараметров, чтобы ввести в уже сложную сеть, которую мы также должны оптимизировать, чтобы найти. Обычно показатели обучения являются скалярами.

Таким образом, мы пытаемся нормализовать изображения, прежде чем использовать их в качестве входных данных для алгоритма NN (или любого другого градиента).