1D свертка в нейронных сетях

9

Я понимаю, как работает свертка, но я не понимаю, как одномерные свертки применяются к двумерным данным.

2D свертка

В этом примере вы можете увидеть 2D свертку в 2D данных. Но как было бы, если бы была 1D свертка? Просто 1D ядро ​​скользит таким же образом? А если шага было 2?

Спасибо!

Gustavo
источник
1
Просто посмотрите на первый ряд каждой матрицы.
Петр Мигдаль
Можете привести пример?
Густаво
1d свертки не будут действительно полезны для строгого 2d изображения. Изображения в градациях серого являются трехмерными с технической точки зрения, поскольку они имеют три цветовых канала.
Итан
1
@Gustavo Вот так: toto-share.com/wp-content/uploads/2011/11/… Если только вы не имеете в виду свертку 1x1 (в смысле нейронных сетей), это совсем другое.
Петр Мигдаль,
Моя проблема с такими сверточками, как: d3kbpzbmcynnmx.cloudfront.net/wp-content/uploads/2015/11/… Есть две сверточки , одна с размером ядра 3 и другая с размером 2 ... Но это ядро ​​1D или размер xk ?
Густаво

Ответы:

2

Икс1,...,ИксNNNзнак равно3

введите описание изображения здесь

Для немного более математического объяснения, вы можете проверить Ji Young Lee, Franck Dernoncourt. « Последовательная классификация коротких текстов с рекуррентными и сверточными нейронными сетями ». NAACL 2016 . раздел 2.1.2:

введите описание изображения здесь

Франк Дернонкур
источник
1

1D свертки используются в сверточных сетях для дискретизации с понижением и увеличения дискретизации в измерении фильтра. Сверточные сети строят эти карты фильтров по мере того, как вы проходите через сеть, вы действительно можете думать о них как о 3-м измерении. Обычный базовый случай измерения карты фильтра - размер 3, так как у нас часто будут изображения RGB, проходящие через нашу сеть.

Эти одномерные свертки могут быть полезны для понижающей дискретизации, выполнения некоторой операции, а затем для повторной выборки обратно до того же измерения. Это очень полезно по соображениям производительности.

Чтобы действительно интуитивно понять, я предлагаю прочитать:

Сеть в сети - http://arxiv.org/abs/1312.4400

Углубляясь с извилинами - https://www.google.com/url?sa=t&source=web&rct=j&url=http://www.cs.unc.edu/~wliu/papers/GoogLeNet.pdf&ved=0ahUKEwi89oeuxqnLAhXhuIMKHZrTCe0QFggkMAE&usg=AFQjCNGCEEnUgrgCn- rrECNQ72wI3PH1Qw & Sig2 = VhjfaMvuskNIDVKhFfNiqQ

Итан
источник
4
Это говорит о том, что вы говорите о свертках 1x1 (в смысле нейронных сетей), а не об одномерных свертках.
Петр Мигдал
Да, я предположил, что нейронные сети были вовлечены. Я наткнулся на ссылку на этот вопрос на / r / MLQuestions на reddit, поэтому я предположил, что это связано с ML. Но для простой свертки это не так актуально: P.
Итан