У меня очень разреженные входы, например, расположение определенных функций на входном изображении. Кроме того, каждая функция может иметь несколько обнаружений (не уверен, что это повлияет на конструкцию системы). Это я буду представлять как двоичное изображение k-канала с включенными пикселями, представляющими наличие этой функции, и наоборот. Мы можем видеть, что такой вклад должен быть очень разреженным.
Итак, есть ли какие-либо рекомендации при использовании разреженных данных с нейронными сетями, в частности, данных, которые представляют обнаружения / местоположения?
neural-networks
deep-learning
sparse
user3246971
источник
источник
Ответы:
Вы можете попробовать использовать вложения объектов, чтобы уменьшить размер пространства ввода. Это своего рода подход word2vec в NLP, кажется, что он может применяться в вашем случае, поскольку ваши функции являются двоичными (вкл / выкл).
источник