Тезис Черч-Тьюринга и вычислительная мощь нейронных сетей

29

Тезис Черча-Тьюринга утверждает, что все, что может быть вычислено физически, может быть вычислено на машине Тьюринга. В статье «Аналоговые вычисления через нейронные сети» (Siegelmannn and Sontag, теоретическая информатика , 131: 331–360, 1994; PDF ) утверждается, что нейронная сеть определенной формы (настройки представлены в статье) является более мощной. Авторы говорят, что в экспоненциальном времени их модель может распознавать языки, не поддающиеся вычислению в модели машины Тьюринга.

Разве это не противоречит тезису Черча-Тьюринга?

Джон Р. Л
источник

Ответы:

46

Нет, это все еще согласуется с тезисом Черча-Тьюринга, их модель снабжена подлинными действительными числами (как в произвольных элементах ), что в значительной степени сразу же расширяет возможности машины Тьюринга. Фактически, заголовок 1.2.2 - это «Значение (не вычислимого) реального веса», где они обсуждают, почему их модель построена так, чтобы включать невычисляемые компоненты.р

На самом деле существует много моделей вычислений, которые превосходят возможности машин Тьюринга (см. Гиперкомпьютер ). Загвоздка в том, что ни один из них, очевидно, не может быть построен в реальном мире (но, возможно, в мире - извините, не смог устоять).р

Люк Мэтисон
источник
5
+1 хотя бы частично за заключительный каламбур!
Омар
2
Мне интересно, что это, похоже, связано с вопросом о том, является ли Вселенная цифровой или нет, и с другими вопросами квантовой механики, такими как фундаментальная неопределенность системы.
всевозможный
7
Я бы добавил, что не может существовать в реальном мире из-за привязки Бекенштейна, поэтому QM запрещает такие конструкции. р
Мацей Пехотка
1
Я чувствую, что каламбур действительно добавляет что-то к этому ответу, поскольку это настолько распространенное наивное недоразумение, что реальные цифры реальны.
R ..
25

Чтобы немного расширить ответ Люка , физическое построение нейронной сети для решения любого языка требует создания электронных компонентов с бесконечно точными сопротивлениями и так далее. Это невозможно, несколькими способами:

  1. Вы не можете произвести резистор ровно .2Ω

  2. Сопротивление изменяется с температурой, а ток, протекающий через резистор, изменит его температуру.

  3. Даже если предположить, что вы знакомы с инженером-электронщиком / колдуном, который может изготовить резисторы с любым точным значением, которое вы выберете, и которые не изменяют сопротивление в зависимости от температуры, для настройки вашего компьютера на неисчислимый язык потребуются неисчислимые значения сопротивления. Таким образом, вы никак не могли бы сказать своему электронщику / колдуну, какое значение сопротивления вам нужно.

Таким образом, хотя, в принципе, эти машины могут выбирать любой язык, они не нарушают черч-тьюринговский подход, потому что они не могут быть сконструированы физически.

Возможно, вы захотите принять участие в каких-то правилах-адвокатах и ​​заявить, что кто-то может передать вам одну из этих машин и сказать: «Эй, смотри, эта машина просто имеет правильные значения сопротивления для решения проблемы остановки!» Однако у них нет никакого способа доказать это утверждение, поскольку они не могут измерить компоненты с бесконечной точностью, поэтому лучшее, на что они могут претендовать с обоснованием: «Я проверил это на некотором конечном наборе входных данных, и он правильно решил проблему остановки на эти входы ". Ну, любое конечное подмножество проблемы остановки уже разрешимо по Тьюрингу, так что в этом нет ничего захватывающего.

Дэвид Ричерби
источник