Вычислительная мощность нейронных сетей?

13

Допустим, у нас есть однослойная прямая нейронная сеть с k входами и одним выходом. Он вычисляет функцию из , довольно легко увидеть, что она имеет по крайней мере ту же вычислительную мощность, что и A C 0 . Просто для удовольствия мы назовем набор функций, вычислимых однослойной нейронной сетью, « N e u r a l ».{0,1}n{0,1}AC0Neural

Кажется, однако, что он может иметь больше вычислительной мощности, чем .AC0

Так ... С 0N е у г на л или Н по электронной у г а л = A C 0 ? Также этот класс сложности изучался раньше?AC0NeuralNeural=AC0

gabgoh
источник
1
Замечание по терминологии - важной информацией является количество скрытых слоев. Нейронная сеть с нулевым скрытым слоем с одним выходом - это просто линейная пороговая функция, и ее часто (путаницей) называют одноуровневой или двухслойной нейронной сетью / персептроном, в зависимости от того, считаются ли входы / выходы слоями. Кроме того, в литературе по ИИ нейронные сети обычно определяются в терминах сигмоидальных функций, что означает, что входные / выходные данные являются реальными. Известно, что сети с одним скрытым слоем являются универсальными аппроксиматорами в том смысле, что любая непрерывная функция может быть приближена сколь угодно близко
Ярослав Булатов,

Ответы:

16

Есть несколько ссылок, которые я мог бы найти: вычисления общего назначения с нейронными сетями: обзор теоретических результатов сложности, 2003 и Иерархии подсчета: полиномиальное время и контуры с постоянной глубиной, 1993 .

dTCd0TC0 ).

TC0ACC0AC0AC0TC0

d

М. Алагган
источник
TС0 имеет полные проблемы ... хм ...
Габго