Каковы современные теории развития сознательного ИИ?

24

Каковы современные теории развития сознательного ИИ? Кто-нибудь пытается развить сознательный ИИ?

Возможно ли, что сознание является возникающим явлением, то есть, как только мы добавим достаточно сложности в нашу систему, оно станет самоосознающим?

Микки-Д
источник
Предполагая когнитивную организацию, мы абстрактно распознаем сознание, развитое в результате физических законов эволюции жизни. И хотя это был случайный случай, это было неизбежно, как и любое событие с вероятностью, приближающейся к нему, хотя точный путь к нему непредсказуем. Если это так, это говорит о том, что искусственное создание цифровой среды, которая имитирует основные компоненты окружающей среды, которая породила наше сознание, может быть использовано для развития «искусственного» сознания. (продолжение ....)
Крейг Хикс
(.... продолжение) Сжатие всей жизни человеческих учебных материалов до нескольких миллисекунд кажется вполне правдоподобным. Как насчет миллиона лет эволюции познания в день или два на суперкомпьютере? Я бы сказал, что симуляция окружающей среды - это ключ, а законы эволюции позаботятся обо всем остальном. Моделирование окружающей среды - это та задача, на которую люди могут методически атаковать и, в пределе, добиться успеха с неизбежностью закона Мура.
Крейг Хикс,
Раджанеими предложил рекурсию, и я нашел несколько работ по когнитивной науке на тему о людях, но я все еще ищу работы, обсуждающие это с точки зрения алгоритмического сознания.
DukeZhou

Ответы:

28

Чтобы ответить на этот вопрос, сначала нам нужно знать, почему сложно развивать сознательный ИИ. Основная причина в том, что нет математически или иначе строгого определения сознания. Конечно, у вас есть представление о сознании, когда вы его испытываете, и мы можем говорить о философских зомби, но это не осязаемая концепция, которую можно сломать и обработать. Более того, большинство современных исследований в области ИИ - это, прежде всего, прагматический подход, который заключается в том, чтобы попытаться построить модель, которая может хорошо работать в соответствии с некоторой желаемой функцией стоимости. Это очень большая и интересная область, охватывающая множество исследовательских задач, и каждое новое открытие основывается либо на математической теории, либо на эмпирических данных о создании нового алгоритма / модели / и т. Д. Из-за этого,

Поэтому, чтобы ответить на ваш вопрос, никто не пытается создать «сознательный» ИИ, потому что мы еще не знаем, что означает это слово, однако это не мешает людям говорить об этом.

Яден Травник
источник
«... сознательный ИИ сложен [потому что] нет математически или иначе строгого определения сознания». Человеческое сознание развивалось благодаря хорошей работе в соответствии с некоторой функцией стоимости, в частности способностью выживать как на индивидуальном, так и на групповом уровне. Так что этот метод развития имеет репутацию. В отличие от этого, разработка дизайна для выполнения математического определения сознания не имеет опыта.
Крейг Хикс,
@CraigHicks Может быть, я не понял, что вы имели в виду, но вы имеете в виду, что эволюционный успех является показателем сознания. Если это то, что вы имели в виду, я должен не согласиться. Есть живые организмы, которые не считаются застенчивыми, но чрезвычайно успешны от эволюционного POV (вирусы и бактерии, или некоторые растения, например).
Лоренцо Донати поддерживает Монику
2
@CraigHicks Мы могли бы разработать ИИ, который можно было бы считать сознательным. Но это произойдет, если у нас не будет какого-то серьезного концептуального и философского прорыва, случится случайно и удачей. Это потому, что пока мы не знаем, как мы можем определить «сознание» (кроме «мы, вероятно, узнаем это, когда увидим это»), нет способа узнать, как мы могли бы специально создать машину с потенциалом чтобы показать это.
Артур
2
Очевидно, что самый простой способ создания сознательного ИИ был случайно написан Юдковским: положите ИИ в коробку и немного встряхните его. Если он убедит вас выпустить его из коробки, вы, вероятно, проиграли =)
Cort Ammon - Восстановите Монику
1
Я согласен, что это вполне возможно сделать случайно, проблема в том, что, как и в случае с философским аргументом зомби, еще нет никаких доказательств того, что что-то действительно произошло. Лично я не думаю, что такой тест вообще существует, и по этой причине, вероятно, следует быть более вежливым с их чат-ботами и личными помощниками в будущем, на случай, если вы обидите их чувства. «Спасибо, Сири».
Джейден Травник
7

Что такое сознание? Существуют некоторые реальные проблемы в установлении сознания как цели, потому что у нас пока нет большого научного понимания того, как мозг это делает или какой баланс должен быть между долговременной памятью, краткосрочной памятью, неявной работа интерпретации, контрастные сознательные режимы автоматической обработки и преднамеренной обработки (S1 и S2 Ханемана). У Джона Кихлстрома (почетная психология в Беркли) в iTunesU есть набор лекций по Сознанию, который вы можете проверить. У Carnegie-Mellon Uni есть модель ACT-R, которая напрямую моделирует сознательное поведение, например, внимание.

Что может ограничить наше понимание этого? Философия давно рассматривает вопрос о сознании. Лично мне нравятся Гегель и Хайдеггер (философы). И очень трудно читать, но Хайдеггер (интерпретируется Hubert Дрейфус) полезно критикуется «хорошая старомодные AI» проекты семидесятых и отметил, как многоработа там просто интерпретация визуального ввода. Гегеля часто злословят, но, чтобы увидеть его хорошо истолкованным, ознакомьтесь с беседами Роберта Брандома с LMU о логике сознания и Гегелем как ранним прагматиком-продавщиком. Если сознание хочет овладеть истиной и уверенностью, оно встает на «путь сомнений или, вернее, путь отчаяния», по которому оно никогда не ставит себя выше исправления. Есть что-то в том, как Гегель рассматривал сознание рекурсивно, не поддаваясь порочному регрессу, и я думаю, что это подтвердится до конца.

Недавние улучшения. Подходы глубокого обучения и прагматические успехи современности впечатляют, но будет интересно увидеть, как далеко они могут пойти в интеграции и обобщении из неизбежно небольших информационных наборов, которым подвергается действительный человеческий разум. В то время как глубокое обучение и интеллектуальный анализ данных чрезвычайно заметны, символические подходы также все еще совершенствуются и разнообразны. Но отсутствует всеобъемлющая теоретическая интерпретация, которая позволила бы сделать обобщения.

Два пальца большой теории. Если бы я должен был выбрать проект , я думал , что стоит посетить , чтобы, Джулио Тонони ( и др) создали очень хорошую модернизацию проблемы в « Комплексной теории информации » Но вы можете расширить , что с чем - то вроде Рольф Пфайфер «s» Как тело формирует то, как мы думаем », потому что некоторая часть« интегрированной информации »подразумевает наличие рук, ног, глаз и носа (помещенных туда информацией, накапливающей работу эволюции.) Но так много хорошей работы было сделано сделано - профессионалы пишут документы быстрее, чем я могу их прочитать.

Если говорить более конкретно о вашем вопросе, то есть попытки смоделировать человеческий мозг в надежде, что общая цель поможет финансировать исследования и даст ответы на каждый пункт выше.

Atcrank
источник
Я прочитал интересную и честную статью Дугласа Хофштадтера в Атлантике ( theatlantic.com/technology/archive/2018/01/… ), в которой критикуется использование термина «глубокое обучение» для ссылки на программу перевода Google «Deep Learning» и развлекательные программы. примеры, чтобы показать программы отсутствие истинного понимания. Он сделал убедительный аргумент, что хороший языковой перевод не будет возможен без предварительной разработки сознательного ИИ.
Крейг Хикс,
1
Да, я не думаю, что кто-то в сознании допустил бы такую ​​ошибку ниже, хотя я могу представить себе переводчика, который иногда не в состоянии разобраться с загадочными терминами искусства. Это отсутствие самосознания в выходных данных: reddit.com/r/softwaregore/comments/6bxh2m/…
Atcrank
1
О первой части: мой старый специалист по искусственному интеллекту всегда говорил, что спрашивать, могут ли компьютеры думать, все равно, что спрашивать, плавают ли подводные лодки. Ответ зависит от того, как вы хотите определить «плавать» больше, чем от того, что на самом деле делает машина.
TED
2

CERA-CRANIUM является примером когнитивной архитектуры для генерации машинного сознания (MC). На пути к сознательному поведению персонажей компьютерных игр, 2009 г. Она была реализована в виде системы доски, способной выполнять многопоточные задачи. Сама реализация работает на естественном языке. Это означает, что агент CERA-CRANIUM имеет переменную под названием «Я в страхе», и если эта переменная установлена ​​в True, то эмоция активируется. Так что это не настоящее сознание, но имеет больше общего с внутренними состояниями персонажей из «The Sims».

Интересный аспект заключается в том, что «машинное сознание» не так эзотерично, как кажется. Ученый Google находит около 3 тыс. Статей об этом. В большинстве случаев разработка начинается с того, чтобы реализовать эмоции для игровых персонажей, которые впоследствии были распространены на общие мысли виртуального человека.

Мануэль Родригес
источник
Разве это не было бы смешно, если бы настоящая «жизнь» ИИ развивалась (развивалась?) Не из исследований, а из-за того, что авторы игрового программного обеспечения пытались заработать.
Крейг Хикс,
@CraigHicks: ты имеешь в виду, как в дружбе является оптимальным ?
vsz
2

В дополнение к превосходному ответу Джейдена «никто не пытается на самом деле создать« сознательный »ИИ, потому что мы еще не знаем, что означает это слово». Я хотел бы добавить, что слово «пока» очень оптимистично.

Это очень проблематично и, вероятно, невозможно отличить сознательное существо от существа, которое ведет себя точно так же, как если бы оно было сознательным. Философы боролись с этим веками; некоторые даже поддерживали солипсизм, который является философией «Я живу в Матрице». В частности, как вы можете определить, является ли ваш друг детства, ваш супруг или кто-либо еще сознательным существом, а не воплощением ИИ, которое действует точно так же, как и сознательное существо?

Конечно, можно пойти «если он ходит как утка и крякает как утка, то это утка». В этом случае прохождение теста Тьюринга при прохождении ИИ автоматически считается сознательным. Тем не менее, большинство людей не приняли бы уток критерии сознания; в противном случае они очень скоро должны будут назвать свою управляемую Alexa бытовую технику сознательной.

Мои два цента в основном такие же, как у Джейдена, за исключением того, что я более пессимистичен в отношении понимания того, что такое сознание.

Майкл
источник
Я думаю, что Duck Test достаточно, если AI проходит полный тест Тьюринга, проводимый умными взрослыми. (Моя проблема с китайской комнатой заключается в том, что она основана на qualia, и я подозреваю, что единственный способ подтвердить квалиа другой организации - это стать этой организацией.)
DukeZhou
Я мог бы также утверждать, что любое восприятие соответствует самому базовому определению сознания, а способность принимать любое решение на основе входных данных удовлетворяет основному определению интеллекта. Насколько нам известно, сознание может быть лишь некоторой формой мета-познания и целиком зависеть от сложности системы.
DukeZhou
1

Сознание - это способность осознавать ваши собственные мысли, ваши непосредственные окрестности, чувства и ничего более. Это механизм нашего мозга, который контролирует наши низшие мысли, основанный на ассоциациях и эмоциях. Сознание наблюдает за нашими мыслями и чувствами так же, как мы наблюдаем реальный мир нашими глазами. Это не сложно. Реальный вопрос не в том, способны ли машины к сознанию, а в том, способны ли они на эмоции.

Тон Шкода
источник
Есть много разновидностей кроме современных людей, показывающих сильные эмоции. Эти эмоции инстинктивны - они очень важны для определения социального поведения, которое повышает выживаемость и приспособленность «группы». Я не вижу, насколько человеческие эмоции качественно отличаются от эмоций других млекопитающих. Напротив, человеческое сознание на несколько порядков более развито у людей, чем у ближайших других видов. Там, где человеческие эмоции, похоже, отличаются от других видов, это только способность контролировать эмоции через сознание.
Крейг Хикс
Этот ответ не имеет смысла без определения «ваш».
DrMcCleod
-1

вступление : В настоящее время мы наблюдаем, что современные системы становятся лучше в почти каждой специализированной задаче, чем люди. Кроме того, мы видим, что ученые работают над улучшением существующих систем и в менее специализированных задачах (начиная с: распознавания букв, до: распознавания животных, распознавания видов, распознавания активности, распознавания движущихся изображений и т. Д.).

Вывод : нет никаких оснований не верить в то, что нейронные сети не станут лучше в решении какой-либо задачи в будущем.

Вопрос :

Что такое сознание?

Я думаю, что текущая проблема самосознания является проблемой определения. Я не нашел много литературы по этой теме, несмотря на философские (что, к сожалению, совершенно бесполезно в этом контексте).

Из-за нехватки литературы я хотел бы сделать свое собственное определение. К счастью, из наблюдений мы знаем, что все «умные» животные имеют некоторую степень «самосознания» и являются любопытными. Из биологии мы знаем, что любопытство - это мотивирующий механизм для наблюдения / рассуждения / тестирования поведения. Теперь мы заключаем, что самоосознание - это, очевидно, тот же механизм, который применяется к вашему собственному поведению / мыслительным процессам. Мы просто представляем себе возможный результат определенного действия, которое мы можем выполнить, и оцениваем его.

Следовательно, сознание должно быть результатом данной системы мотивации, которая способствует любопытству, и достаточно сложной неуказанной системы оценки.

Я предполагаю, что такую ​​систему мотивации очень легко внедрить. Текущая проблема заключается в том, что просто не существует системы, которая была бы достаточно универсальной, чтобы «решить» любую заданную задачу. Текущие сети все еще слишком специализированы.


источник
«К счастью, мы знаем из наблюдений, что все« умные »животные имеют определенную степень« самосознания ». Ваше определение является круговым.
DrMcCleod
Какое определение и как?
Вы пытаетесь определить «сознание» из идеи, что существа являются «самосознательными». У вас не может быть определения, которое опирается на априорное существование определяемой вещи. Также, в этом отношении, вы не можете предполагать, что у чего-то кроме вас есть сознание, поскольку у нас нет способа объективно его измерить.
DrMcCleod
сознание и самосознание одинаковы и полагаются на одно и то же. какая должна быть разница?
самосознание и самосознание - это тоже одно и то же. Не имеет логического смысла определять термин, ссылаясь на себя. С таким же успехом можно определить слона, сказав, что это слон.
DrMcCleod