Что имел в виду Тьюринг, когда говорил, что «машины не могут вызывать сюрпризов», из-за ошибки?

Я встретил ниже заявление Алана М. Тьюринга здесь :

«Я считаю, что представление о том, что машины не могут вызывать сюрпризов, связано с ошибкой, которой особенно подвержены философы и математики. Это предположение о том, что как только факт представляется разуму, все последствия этого факта возникают разум одновременно с ним. Это очень полезное предположение при многих обстоятельствах, но слишком легко забыть, что оно ложно ».

Я не носитель английского языка. Может ли кто-нибудь объяснить это простым английским языком?

Математики и философы часто предполагают, что машины (а здесь он, вероятно, означает «компьютеры») не могут нас удивить. Это потому, что они предполагают, что как только мы узнаем какой-то факт, мы сразу понимаем все последствия этого факта. Это часто полезное предположение, но легко забыть, что это неверно.

Он говорит, что системы с простыми, конечными описаниями (например, машины Тьюринга) могут демонстрировать очень сложное поведение, и это удивляет некоторых людей. Мы можем легко понять концепцию машин Тьюринга, но затем мы понимаем, что они имеют сложные последствия, такие как неразрешимость проблемы остановки и так далее. Технический термин здесь таков: «Знание не закрыто за вычетом». То есть, мы можем знать некоторые факты  $A$ , но не знаю  , $B$ , даже если подразумевает  B .$A$$B$

Честно говоря, я не уверен, что аргумент Тьюринга очень хорош. Возможно, у меня есть преимущество писать почти 70 лет после Тьюринга, и я понимаю, что типичный математик знает гораздо больше о математической логике, чем во времена Тьюринга. Но мне кажется, что математики в основном хорошо знакомы с идеей простых систем, имеющих сложное поведение. Например, каждый математик знает определение группы , которая состоит всего из четырех простых аксиом. Но никто - сегодня или потом - не подумает: «Ага. Я знаю четыре аксиомы, поэтому я знаю каждый факт о группах». Точно так же аксиомы Пеано дают очень краткое описание натуральных чисел, но никто, кто их читает, не думает: «Хорошо, теперь я знаю каждую теорему о натуральных числах.

Просто пример - учитывая правила игры в шахматы, каждый должен сразу определить лучшую стратегию игры в шахматы.

Конечно, это не работает. Даже люди не равны, и компьютеры могут превзойти нас из-за их лучших способностей делать выводы из фактов.

Это идея возникновения , когда сложное поведение возникает в результате взаимодействия относительно простых правил. Есть много примеров этого в природе, как указывает эта ссылка. Насекомые колонии, птичьи стаи, стаи рыб и, конечно же, сознание. В стае птиц или стае рыб каждый отдельный рой принимает решения только на основе окружающих их других, но когда вы объединяете кучу этих особей, соблюдая все эти правила, вы начинаете видеть более скоординированное поведение, чем вы ожидаете без плана более высокого уровня. Если вы заходите на Youtube и смотрите демонстрацию роботовВы видите, что они все избегают избивать друг друга и работают в унисон. Удивительно, но этого не нужно достигать, когда единый центральный компьютер координирует поведение каждого отдельного робота, но вместо этого его можно использовать с помощью ройной робототехники, где, как насекомые, птицы или рыбы, каждый робот принимает локальные решения, которые ведут на возникающую координацию.

Еще одна интересная демонстрация эмерджентного поведения - игра жизни Конвея . Правила игры предельно просты, но могут привести к очень увлекательным результатам.

Заманчивый аргумент против способности компьютеров получать человеческий интеллект состоит в том, чтобы сказать, что, поскольку они могут делать только то, для чего они запрограммированы, они должны демонстрировать только тот интеллект, которым мы их программируем. Если бы это было правдой, мы бы также не ожидали, что относительно простое поведение нейронов вызовет человеческий интеллект. Тем не менее, насколько мы можем судить, это так, и сознание является возникающим свойством нейронной обработки. Я уверен, что Тьюрингу хотелось бы увидеть, что стало возможным сегодня с использованием искусственных нейронных сетей

Люди могут предположить, что если я напишу программу, и я полностью пойму алгоритм, а ошибок нет, то я должен знать, каким будет результат этой программы, и что это не должно меня удивлять.

Тьюринг говорит (и я согласен), что это не так: результат может быть удивительным. Решение проблемы коммивояжера может быть удивительным. Лучший способ построить полный сумматор может быть удивительным. Лучший ход в шахматной игре может быть удивительным.