В информатике предполагается, что человеческий разум можно воспроизвести с помощью машины Тьюринга, поэтому возможен искусственный общий интеллект (AGI). Предполагать иначе - значит верить во что-то мистическое, а мистические убеждения ложны.
Я не знаю ни одного другого аргумента о том, что АГИ возможен, и приведенный выше аргумент чрезвычайно слаб.
Есть ли строгое доказательство того, что AGI возможно, по крайней мере, в теории? Откуда мы знаем, что все, что может сделать человеческий разум, может быть закодировано как программа?
philosophy
agi
proofs
yters
источник
источник
Ответы:
Доброе утро! Вы используете чрезвычайно общий термин («ИИ») для чрезвычайно специфической идеи («нечто, созданное человеком, почти идентичное человеческому разуму»). Таким образом, ваш вопрос не в том, что вы думаете.
По словам Джона МакКарти (AI McCarthy), который, как утверждает Википедия, придумал этот термин и является эквивалентом рок-звезды в области искусственного интеллекта, ИИ - это машиностроение, способное использовать вычисления для достижения целей в мире. Таким образом, все, от вашего калькулятора до функции автофокусировки вашей камеры, является некой формой ИИ. Из-за этого, ваше доказательство ИИ - это просто его существование в вашем кармане или компьютере.
Кажется, вы спрашиваете, возможно ли разработать ИИ, который работает на уровне, аналогичном человеческому (для описания этого часто используются такие термины, как «Искусственный общий интеллект» или «Сильный ИИ»). Это невероятный вопрос, но он плохо определен. Напрашивается другой вопрос: как вы определяете интеллект на уровне человека? Это способность убеждать других людей в том, что вы человек (это несколько круговая логика)? Это умение писать музыку или создавать картины? В зависимости от вашего определения, ответ может сильно различаться, и его необходимо уточнить, прежде чем продолжить.
источник
Серьезная причина, по которой люди думают, что разум может быть реализован на машине Тьюринга, связана с вычислительной теорией разума (CTOM) , которая на данный момент является ведущей теорией разума.
Есть много причин для поддержки CTOM, одна из которых заключается в том, что язык психологии убеждений / желаний (пропозициональные установки над ментальными представлениями), кажется, хорошо вписывается в вычислительную структуру.
Но наиболее просто то, что аналогия с вычислениями очень полезна в таких областях, как психология и нейробиология. Когда мы знаем о паре ввода / вывода, но не знаем, как она реализована, мы можем сказать «она выполняет соответствующие вычисления».
И поскольку Тьюринг показал, что любые вычисления могут быть выполнены на соответствующей машине Тьюринга, естественным расширением является то, что разум может быть реализован на компьютере.
Тем не менее, CTOM является более полезной идеей, чем полная теория. Мы до сих пор не знаем, как анализировать мысли в логическом синтаксисе, который может быть реализован на компьютере. И мы также не знаем, как / почему «вычисления» (что бы это ни значило в этом предложении) выполнялись в мозге.
источник
Почему Люди НИКОГДА не создадут истинное экзистенциальное сознание в основанной на кремнии Искусственной Интеллектуальной Системе ... размышлениях Практика / Философа ИИ.
АРГУМЕНТ (ы):
⦁ Люди не способны создать какую-то «вещь» из распоряжения (указа). Это никогда не случалось в истории человечества. Инновационный цикл должен начинаться с некоторой «вещи» (некоторого «материала» какого-то рода), а сознание - это не вещь.
⦁ Сущность сознания незаметна (незаметна), как гравитация и притяжение. Люди неспособны создавать вещи, которые они не могут наблюдать. Даже если они способны это наблюдать, человеческая способность восприятия не способна реально воспринимать истинные сущности видимых вещей, а тем более невидимых.
⦁ Человек недостаточно понимает «сущность» и «природу» сознания - что является фундаментальной предпосылкой для создания «чего-либо» вообще.
Ожидается, что « легкие » проблемы, физические по природе, хотя и не решенные эмпирическими областями психологии, когнитивной науки и нейробиологии, должны быть решены вовремя. Несмотря на это, они "не" еще не решены сегодня .
Hard « Трудные » проблемы, определяющие, почему или как возникает сознание при правильном расположении вещества мозга, могут никогда не быть решены , поскольку должны объяснять, почему определенный физический механизм рождает сознание вместо «чего-то другого» или «ничего при все". Это важно и является самым ужасным из всех аргументов против идеи создания человеком истинного экзистенциального сознания в кремниевых созданиях в целом.
Самая большая философская дискуссия о сознании сфокусировала различие между дуализмом и физикализмом.
⦁ Физикализм считает , что сознание является полностью физическим. ( Значительные аргументы рассматривают это как ложное ).
⦁ дуализм - это теория о том, что сознание каким-то образом выходит за пределы физического. (это тяжелые проблемы)
Почему мотивирован придерживаться одного из вышеперечисленных дуалистических взглядов?
⦁ Физикам трудно объяснить некоторые аспекты сознания таким образом, чтобы это соответствовало нашим « наблюдениям » за взаимодействием физических свойств. (еще один проклятый аргумент)
Две проблемы:
⦁ Как может нечто, не являющееся частью физического мира, взаимодействовать с физическим миром - это невозможно.
⦁ Физический мир - это потерянная система , как вы можете иметь сознание, которое не является частью замкнутой системы.
⦁ Сознание очень похоже на массу или заряды, это философски «фундаментальная» вещь , вы либо «имеете это, либо не имеете», вы можете имитировать их, но вы не можете экзистенциально «быть» ими, если у вас нет этих специфических «свойств» " И поведение" имитирующее "сознание человека не является фундаментальной вещью.
Поэтому, несмотря на сенсационные тенденции мошеннических журналистов, «попугавших» дико зрелищные концепции из периферийных лагерей трансгуманистов (aka scifi), быстрое прочтение более строгих сообществ обоснованного и вдумчивого философского лагеря решительно и убедительно доказывает обратное.
Больше размышлений о физикализме (даны ссылки на титанов философии):
На самом деле сознание никогда не было должным образом объяснено биомеханикой, которая является более или менее ключевой проблемой всех философских исследований разума, которые по сути являются изучением сознания.
Есть много проблем с подходом Физикализма к объяснению сознания, но ключевые перечислены ниже со ссылкой:
Аргументирует, что физикализм о сознании не прав
Это невозможно представить , как просто нейронная ткань может производить сознательный опыт (Huxely)
Неудачи супервентности, такие как зомби и инвертированные спектры, возможны (Чалмерс, Локк и т. Д.).
Мэри чему-то учится (Джексон).
Мозг имеет массу, объем и другие физические свойства, но опыт не имеет.
Паранормальные явления (переживания при смерти, NDErs , ESP и т. Д.) Реальны и включают сознание, реализованное в нефизическом субстрате.
Если я сморщусь, чтобы я мог прогуляться по твоему мозгу и посмотреть вокруг, я буду наблюдать нейронные процессы, а не переживания (Лейбниц).
Душа - это место сознания, а душа не физическая. (Теологические ограничения признаны, кстати ...).
Сознательный опыт обладает внутренними качествами , но наука может рассказать нам только об отношениях (Рассел, Розенберг).
Сознание не может наблюдаться ; не будет никогда быть детектором сознания , который может сказать вам , если данное существо находится в сознании.
Сознательный опыт - это не просто движение молекул, сознание - это больше, чем масса в движении (Милл, Уорд).
источник
Вместо того, чтобы доказать, что искусственный общий интеллект возможен, я бы рассмотрел аргумент, почему это невозможно .
Мы начнем с определения того, что мы подразумеваем под AGI. Вы утверждаете, что человеческий разум может быть воспроизведен машиной Тьюринга, и поэтому AGI должно быть возможным. Кажется, это подразумевает, что у людей есть «общий» (заглавная G) интеллект. Под этим я подразумеваю, что вы подразумеваете, что с достаточным количеством времени люди могут выучить любую задачу или проблему. Однако, если вы утверждаете, что человеческие умы являются машинами, воспроизводимыми машинами Тьюринга, вы также должны признать, что они обладают некоторой конечной репрезентативной силой. Ограниченная репрезентативная сила подразумевает, что всегда будут проблемы или задачи, в которых наш интеллект потерпит неудачу (следствие теоремы об отсутствии бесплатного обеда ).
К счастью (может быть, к сожалению), конечная сила представления - это то, что позволяет нам учиться вообще: VC Dimension (мера сложности или мощности представления класса функций, которые алгоритм обучения может изучать [также здесь и здесь ]) подразумевает, что Алгоритм обучения, который может изучить любую проблему, на самом деле бесполезен, поскольку способность объяснить любой набор данных приводит к тому, что алгоритм должен видеть бесконечное количество примеров для обобщения. Хотя этот результат исходит из относительно ограниченного класса задач бинарной классификации в статистическом обучении, интуиция, кажется, применяется более широко.
Подводя итог, я хотел бы сослаться на эту цитату из Shalev-Shwartz и Ben-David (2014) :
Это действительно тот случай, когда наше решение систематически игнорировать некоторые возможные результаты - это единственное, что позволяет использовать для изучения полезных представлений о реальных проблемах.
источник
Я собираюсь выйти на передний план и предположить, что это вопрос эволюции, что люди ни в коем случае не являются исключительными в великой схеме, и что AGI будет проявляться до тех пор, пока технологии развиваются, потому что человеческое сознание - это просто вопрос сложности системы.
Идея проистекает из возникающей сложности в игре жизни Конвея. По словам Конвея:
Я наткнулся на статью « Вычисления в клеточных автоматах: выборочный обзор» , которую я до сих пор прорабатываю, и которую вы можете найти интересной.
Для тех, кто использует философские аргументы для обоснования алгоритмического сознания, невозможно, я бы поставил вопрос «откуда мы знаем, что мы в сознании?» Не потому, что мне интересен ответ, а просто чтобы бросить гаечный ключ в эту линию расследования.
Потому что в конечном итоге это не имеет значения.
Сознание в смысле человеческого осознания не является требованием жизни, и самое основное определение сознания - это осознание любого рода, независимо от того, насколько оно тривиально.
Я считаю, что идея о том, что в человеческом сознании есть что-то «волшебное», что идеи не являются вещами, потому что они не имеют материальной формы, вызывает проблемы.
С нематериальными объектами у меня нет проблем, поскольку нематериальные активы четко взаимодействуют с физическим миром.
(В качестве аналогии я много лет учился у знаменитого учителя тайцзи, который никогда не говорил о «чи». Я подозреваю, что это нежелание проистекает из того, как концепция «чи» ведет к магическому мышлению, которое иллюзорно в противоположность на практике. Практика и применение техник тайцзи - это чисто физический и физиологический вопрос, даже если такие приложения не поддаются естественным законам. Возможно, что-то происходит, что мы не понимаем, но если бы это было так, такие явления имеют естественное происхождение.)
Мы знаем, что в природе есть случайность на квантовом уровне, и если это окажется компонентом человеческого сознания, мы можем использовать квантовые вычисления, чтобы обеспечить среду для искусственного сознания.
источник
Терминология Неопределенность
Для доказательства правдоподобия AGI потребуется более формальное определение AGI, чем то, которое было предложено в блоге Тима Урбана «Революция ИИ: Дорога к суперинтеллекту » (10/10/2015, обновленное 4/12/2015), которое было не рецензируется и не поддерживается исследованиями или статистическими проверками любого рода. [1]
Предлагаемое определение общего интеллекта
Идея компьютерного интеллекта расширилась с того времени, когда тестирование IQ было популярным, и была создана компьютерная программа для решения общих проблем (1959 Герберт А. Саймон, Дж. С. Шоу и Аллен Ньюэл). Джон Брэдшоу опубликовал книгу « Возвращение добродетели» , посвященную идее морального интеллекта. Эмоциональный интеллект обсуждался во многих книгах и статьях. Нейронные сети, байесовские подходы и нечеткая логика появились и успешно использовались в системах принятия решений.
Были предложены альтернативы тесту Тьюринга, указывающие на то, что имитационная игра Алана Тьюринга (наблюдатель-человек, который не может определить из разговора с завязанными глазами, что компьютерный собеседник не был человеком) не предназначалась для того, чтобы быть единственным показателем при проверке искусственного интеллекта. [2]
В свете достижений, хорошее определение общего интеллекта должно
Цель может быть
Это предлагаемое решение, которое включает и суммирует все эти условия.
Непосредственной реакцией вдумчивого человека может быть: «Это больше, чем общий интеллект», но если вы отбросите слово произвольно, то нельзя утверждать, что интеллект является общим, поскольку он явно будет ограничен по крайней мере одним случаем. Если бы случай был один, было бы трудно доказать, что бесконечное число классов случаев также было бы непрозрачным для ограниченного интеллекта.
Другая критика может заключаться в том, что «при всех возможных действиях» подразумевает совершенство или даже божество. Но если цель достижима, человек может устать, но почему компьютер устает? Настойчивость тривиальна для компьютера.
Время для решения может быть бесконечным, но мы не определяем Fast General Intelligence . Мы определяем General Intelligence , и, как только это будет достигнуто, его ускорение - это вопрос оптимизации, распределения процессов, масштабируемости программного обеспечения и согласованности.
Другая критика может состоять в том, что в определении отсутствует слово «искусственный», но лучше без этого слова. Если наше намерение состоит в том, чтобы автоматизировать действия людей, которые компьютеры еще не могут сделать, или превзойти или расширить человеческий интеллект, тогда приложение определения должно быть независимым от тестируемой системы. В определении не следует проводить различие между тем, что, по сути, является предвзятым критерием в отношении научного подхода к интеллекту и его общим возможностям.
Доказательство существования или Disproof
Если это определение приемлемо, тогда явно нет доказательств того, что человек обладает общим интеллектом. Интеллектуальная система может быть не в состоянии либо достичь произвольной цели, либо определить, что цель не достижима по любой из многих причин, включая эти.
Нет строгих доказательств того, что общий интеллект в соответствии с предложенным определением возможен для всех машин Тьюринга, но это достойная исследовательская проблема, поскольку все вышеперечисленные причины сбоев, за исключением, вероятно, требования какого-то недетерминированного, но не случайного элемента могут быть преодолены компьютерами.
Приведенный выше список, однако, является довольно строгим доказательством того, что люди не обладают надежным общим интеллектом. Человеческий порыв и нынешнее широко распространенное мнение, гуманизм, восстают против этой идеи, но тем не менее это правда.
Тогда последний вопрос возвращается к следующему: «Как мы можем знать, что все, что может быть запрограммировано в машине Тьюринга, может быть достигнуто человеческим мозгом?» Ответ на этот вопрос отвечает этой цели, вдохновленной первыми и последними причинами неудач достижения, перечисленными выше: «Вы застряли на острове с 1000 листов бумаги и 1 000 000 заостренных карандашей с едой, водой и кровом, но без компьютера или калькулятора и цель состоит в том, чтобы вычислить пи до 1 000 000 десятичных знаков. "
Нейроны могут моделировать нейроны, но возникает вопрос точности моделирования и хаотического аспекта астрономически сложной нелинейной системы. Различные теории существования или отсутствия существования были предложены для произвольного достижения цели, но не все случаи были доказаны, или потребовалось много предположений, чтобы получить доказательство того, что утверждение цели не является действительно произвольным.
Существует вероятность того, что какой-то недетерминированный, но не случайный элемент используется для создания намерения или выбора из вариантов (таких как душа, автономная или заданная цель, означающая распоряжение или карма), что ни доказано, ни опровергнуто с научной точки зрения. (хотя многие будут утверждать, фактически не предоставляя строгого доказательства, что это было так). Это ключ к ответу на изначально поставленный вопрос.
При более внимательном рассмотрении контекста вопроса стоит отметить, что машина Тьюринга - это машина, способная выполнять произвольный набор произвольно связанных детерминированных операций. Такие машины не безграничны. Они могут создавать псевдослучайные числа, но недетерминированные явления не могут быть результатом детерминированных операций, поэтому случайное число не может быть сгенерировано машиной Тьюринга. Даже машина Тьюринга не может сделать даже недетерминированный, но значимый выбор, однако мозг может выполнить и то, и другое.
Стохастическая квантовая механика широко распространена среди физиков, и вполне возможно, что некоторые вещи непостижимы, но измеримы, некоторые вещи могут быть познаваемыми, но неизмеримыми, и даже могут быть неизмеримые и непостижимые вещи. Вполне возможно, что что-то неоткрытое или, по некоторым причинам, неизмеримое, которым обладает человеческий мозг, находится за пределами машины Тьюринга.
Это также возможная область для дальнейших исследований, однако это редко исследуется, потому что изучение неизмеримых явлений, хотя такие явления могут существовать, не может быть легко изучено, потому что они неизмеримы.
Джон фон Нейман (возможно, ярче, чем Ньютон, Эйнштейн, Планк и Хокинг) был прав в различении основ компьютера и мозга. Хотя в продемонстрированных способностях людей и компьютеров есть определенное совпадение, ни один из них не может быть подмножеством другого. Футуристы могут не согласиться, но это будет мнение, а не доказательство.
Примечания и ссылки
[1] В Интернете я не вижу никаких доказательств того, что автор книги «Революция ИИ: Дорога к суперинтеллекту» Тим Урбан является ученым-компьютерщиком или имеет соответствующую степень. Если вы посмотрите на статью, то увидите, что приведенные графики - это выдуманные тренды, не основанные на реальных данных. Это по сути научная фантастика - популярная и интересная, но не рациональные выводы, сделанные из повторяемых экспериментов или рандомизированных исследований.
[2] Проверка наличия у компьютера интеллекта на уровне человека: альтернатива «тесту Тьюринга», предложенный Science News, 19.11.2014, Технологический институт Джорджии
[3] Если постановка произвольной цели предшествует получению знаний о предметной области, некоторые или все сведения могут находиться вне работающей программы, заключаться в каких-либо механизмах или людях, взаимодействующих с программой или ее данными после введения цели.
[4] Это ограничение не исключает возможности запрашивать информацию у других интеллектуальных источников без делегирования решений о подходах к преодолению препятствий для этих внешних помощников.
источник
Книга Марвина Мински « Общество разума», хотя и не является строгим доказательством, дает нам образец для создания «разума» (общего интеллекта). В своей книге он утверждает, что, комбинируя бессмысленные компоненты («агенты») вместе в различных конкурирующих и кооперативных структурах, мы можем создавать настоящие умы.
ИМХО, недавняя популярность методов Boosting, Bagging, Stacking и других ансамблевых технологий в конечном итоге эволюционирует (благодаря исследованиям) в метафору «агента» Марвина Мински. Впоследствии, когда мы научимся заставлять этих агентов конкурировать и взаимодействовать (похоже, это недавно началось с Генеративных Состязательных Сетей ), мы сможем писать «программы», которые имитируют (или превосходят) человеческий разум.
источник
Я не уверен, что именно вы подразумеваете под "Почему мы думаем, что разум - это машина?"
Но я объясню, каков будет общий смысл вопроса. Подсказка: ответ на ваш вопрос
Человеческий мозг может обрабатывать данные из вашего тела и создавать так называемый опыт сознания, он работает подобно искусственной машине на фундаментальном уровне.
Было бы очень высокомерно полагать иначе, поскольку мы знаем, из чего состоит мозг. Это не волшебство. Мозг - это биологический компьютер, который стал тем, что мы видим в течение длительного процесса эволюции. Хотя может быть трудно поверить, что такой интеллект может исходить только от природы, становится легче понять, что это произошло методом проб и ошибок в течение пары миллиардов лет. .
Функционирование и структура мозга сильно отличается от компьютеров, созданных человеком, что может служить аргументом в пользу того, почему интеллект на уровне человека не так легко создать.
Почему симуляции разные? Моделирование основывается на том, что мы знаем. Например: мы не можем симулировать обратную вселенную в обратном порядке, чтобы узнать, как произошел Большой взрыв. Точно так же трудно моделировать создание интеллекта на уровне человека на компьютере, поскольку биологические процессы сложны, и мы не обладаем полным знанием.
Это правда, что генеративный ИИ может создавать эффективный дизайн путем эволюции в среднем за несколько недель или месяцев. Хотя вы не можете конкурировать миллиарды лет вселенной с несколькими месяцами на сделанной человеком консервной банке. Природа и компьютеры разные, мы должны быть конкретными, а природа - нет! Если мы хотим рассмотреть все возможные результаты, нам придется смоделировать вселенную, хотя это совсем другая задача, даже там у нас нет начальных шагов.
Мы можем обойти симуляции, просто перейдя другой путь и сделав CS-версию мозга (а не биологическую симуляцию), то, что Нейронные сети можно считать детскими шагами. Теперь перейдем к техническим вопросам, связанным с разработкой Super AI.
источник