Насколько важно сознание для создания продвинутого искусственного интеллекта?

14

Насколько важно сознание и самосознание для создания продвинутых ИИ? Как далеко мы от этого?

Например, при создании нейронной сети (очень вероятно) внутри нее нет сознания, а есть только математика, но нужны ли нам ИИ, чтобы стать сознательными, чтобы решать более сложные задачи в будущем? Кроме того, есть ли какой-нибудь способ, которым мы можем точно знать, сознательно ли что-то или просто притворяется? «Легко» создать компьютерную программу, которая утверждает, что она в сознании, но это не значит, что она есть (например, Siri).

И если ИИ основаны только на предопределенных правилах без сознания, можем ли мы даже назвать это «интеллектом»?

Мистер Эйвинд
источник
3
Мы даже не можем сказать, в сознании ли других людей ...
DrMcCleod

Ответы:

11

Искусственное сознание является сложной теоретической и инженерной задачей. Как только эта серьезная задача будет решена, осознание себя самим компьютером, вероятно, станет незначительным дополнением, поскольку сознательный компьютер - это просто еще один объект, о котором его сознание может осознавать.

Ребенок может посмотреть в зеркало и признать, что движение его рук вперед-назад или создание лиц производит соответствующие изменения в отражении. Они узнают себя. Позже они понимают, что осуществлять физический контроль над своими собственными движениями гораздо проще, чем осуществлять контроль над руками или лицом другого человека.

Некоторые узнают, что ограниченный контроль над лицами и ручными операциями других возможен, если овладеть определенными социальными и экономическими навыками. Они становятся работодателями, арендодателями, инвесторами, активистами, писателями, директорами, общественными деятелями или предпринимателями.

Любой, кто изучал когнитивные науки или испытал грань между типами мышления, потому что они профессиональный консультант или просто глубокий слушатель, знает, что границы вокруг сознания размыты. Рассмотрим это.

  • Слушать речь
  • Смотреть сцену
  • Сосредоточиться на игре
  • Представлять идею
  • Мыть посуду на работу
  • Водить машину
  • Выбор покупки

Любая из этих вещей может быть сделана с определенными типами сознания, подсознания, импульса или привычки или без них.

Субъективно люди сообщают, что выходили из машины и не вспоминали, как поехали домой. Можно услышать, как кто-то говорит, кивнуть в подтверждение, ответить «Да, я понимаю» и даже повторить то, что он сказал, и, тем не менее, похоже, не запомнил содержание речи, если его глубоко спросить. Можно прочитать абзац и дойти до конца без понимания.

Напротив, человек может внимательно мыться для работы, учитывая важность гигиены и обращая внимание, как хирург, готовящийся к операции, замечая запах мыла и даже хлорирование городской воды.

Между этими крайностями частичное сознание также обнаруживается экспериментом и личным опытом. Сознание определенно требует функциональности внимания, которая предварительно контролирует координацию других подсистем мозга и тела.

Как только биологическая или искусственная система достигает способности внимательно координировать, объекты и задачи, к которым они могут быть скоординированы, могут взаимозаменяться. Рассмотрим это.

  • диалог
  • Играя, чтобы выиграть
  • Обнаружение честности или нечестности

Теперь рассмотрим, насколько похожи или различны эти умственные действия, когда мы сравниваем направленное на себя или внешне направленное внимание.

  • Можно говорить с самим собой или говорить с другим
  • Можно играть в обе стороны в шахматы или играть против другого.
  • Можно изучить свои собственные мотивы или мотивы другого

Это иллюстрация того, почему самосознание не является проблемой для ИИ. Это внимательная (но все же предварительная) координация, которая трудна. Ранние микропроцессоры, предназначенные для работы в системах управления в реальном времени, включали (и все еще включают) сигнализацию об исключениях, которая упрощенно моделирует эту пробность. Например, во время игры, чтобы выиграть в игре, можно попытаться начать диалог с предметом. Внимание может сместиться, когда для двух действий требуются одинаковые подсистемы.

Мы склонны также учитывать это переключение сознания сознания. Если мы человек, пытающийся начать диалог с человеком, играющим на победу, мы можем сказать: «Привет?» Вопросительный знак в том, что мы задаемся вопросом, находится ли игрок в сознании.

Если бы кто-то должен был уменьшить значение сознания до самых основных критериев, можно сказать это.

«Моя нейронная сеть немного интеллектуальна, потому что она осознает несоответствие между моими критериями конвергенции и текущим поведением сети, поскольку она параметризована, так что это действительно пример искусственного интеллекта, хотя и примитивного».

В этом утверждении нет ничего совершенно неверного. Некоторые называют это «Узким Разумом». Это немного неточная характеристика, поскольку может быть астрономическое число возможных применений сколь угодно глубокой искусственной сети, которая использует многие из наиболее эффективных методов, доступных в ее конструкции.

Другая проблема, связанная с узостью как характеристикой, заключается в том, что существуют интеллектуальные системы, которые не являются узкими. Каждая интеллектуальная система является узкой по сравнению с более интеллектуальной системой. Рассмотрим этот мысленный эксперимент.

Ханна с успехом пишет статью об общем интеллекте, как в теоретической обработке, так и в навыках письма. Многие цитируют это и ссылаются на это. Ханна сейчас настолько успешна в своей карьере ИИ, что у нее есть деньги и время, чтобы построить роботизированную систему. Она основывает свой дизайн на своей ныне известной бумаге и не жалеет денег.

К ее удивлению, получившийся робот настолько адаптивен, что его адаптивность превосходит даже его самого. Она называет это Технологией Джорджии для забавы, потому что она живет около университета.

Грузия становится великим другом. Она учится с невероятной скоростью и является удивительно хорошим соседом по дому, убирая лучше, чем считала Ханна, по-человечески возможным, что может быть буквально правдой.

Джорджия обращается к Технологии Джорджии, только по линии автобуса от дома Ханны и изучает искусственный интеллект там. После получения степени доктора философии после трехлетнего обучения Грузия встречается с Ханной после хорошо организованной вечеринки «Публикация тезисов», которую Ханна любезно организовала для нее.

После того, как последний гость уходит, наступает минута молчания, когда Ханна понимает истинное состояние ее семьи. Она думает: «Будет ли Грузия сейчас превосходить меня в своих исследованиях?» Наконец Ханна застенчиво спрашивает: «Честно говоря, Джорджия, ты думаешь, что ты теперь такой же общий разум, как я?»

Есть пауза. Грузия с вынужденным видом смирения отвечает: «По твоему определению общего интеллекта, я. Тебя больше нет».

Будет ли эта история правдой в 2018, 3018 или никогда, принцип ясен. Грузия также способна сравнительно анализировать себя с Ханной, как и Анна. В этой истории Грузия применяет определение, созданное в статье Ханны, потому что Грузия теперь способна представить многие определения интеллекта и выбирает определение Ханны как наиболее подходящее в контексте разговора.

Теперь представьте это изменение в истории.

... Она думает, на каком уровне думает Грузия? Наконец Ханна застенчиво спрашивает: «Честно говоря, Грузия, ты теперь такой же сознательный, как и я?»

Грузия вспоминает все случаи использования слова «сознательный» в своих прошлых исследованиях - тысячи ссылок в области когнитивной науки, литературы, юриспруденции, неврологии, генетики, хирургии головного мозга, лечения травм головного мозга и исследований зависимости. Она делает паузу на несколько микросекунд, чтобы тщательно обдумать все это, в то же время чувствуя температуру тела своих соседей по комнате, нейрохимические балансы, моторные тренды лицевой мышцы и язык тела.

С уважением, она ждет 3,941701 дополнительных секунд, которые она рассчитывает как задержку, которая сведет к минимуму любое унижение по отношению к Ханне, которую она любит, и отвечает: «Сознание чего?»

a,б,...СsΦсИксΦс(СИкс(s))

Φс(Сa(s))б,ε>0Φс(Сб(s))+ε>Φс(Сa(s))

Это математический способ сказать, что всегда может быть кто-то или какая-то вещь, более осознающая тот или иной сценарий, независимо от того, она или он, или он существует. Меняя критерии оценки от сознания к интеллекту мы имеем таким образом.

Φя(Сa(s))б,ε>0Φя(Сб(s))+ε>Φя(Сa(s))

Можно только предположить, что статья Ханны определяет общий интеллект относительно того, что является самой умной вещью вокруг, которой когда-то были хорошо образованные люди. Таким образом, определение интеллекта Ханны является динамичным. Грузия применяет ту же формулу к новой ситуации, когда она теперь является стандартом, по которому меньший интеллект ограничен.

Что касается способности подтверждать сознание, это на самом деле легче подтвердить, чем интеллект. Рассмотрим этот мысленный эксперимент.

Джек играет в шахматы с Диланом, используя новый шахматный набор, который купил Джек. Несмотря на эстетическую красоту этого нового набора, с его белыми ониксами и черными частями агата, Дилан двигает каждую часть с мастерством и матами Джека. Джек задается вопросом, умнее ли Дилан, чем он, и спрашивает, что будет нормальным вопросом в таких условиях.

"Дилан, приятель, как долго ты играешь в шахматы?"

Независимо от ответа и независимо от того, является ли Дилан роботом с квантовым процессором продвинутого ИИ или человеком, интеллект Дилана не может быть надежно измерен. Тем не менее, нет никаких сомнений, что Дилан был в курсе игрового процесса.

В примерах в списках в верхней части этого ответа есть определенные наборы требований, которые можно квалифицировать как сознание. Что касается игры Джека и Дилана, некоторые вещи ДОЛЖНЫ работать согласованно.

  1. Визуальное распознавание состояния платы
  2. Управление двигателем руки и руки для перемещения фигур
  3. Тактильное обнаружение в кончиках пальцев и большого пальца
  4. Ручная коррекция зрения
  5. Схватить координацию
  6. Модель физического перемещения фигур доски
  7. Модель правил шахмат в памяти
  8. Модель того, как выиграть во время игры (или астрономическая вычислительная мощность, чтобы попробовать все возможные перестановки, которые имеют какой-либо смысл)
  9. Внутреннее представительство совета государства
  10. Внимание выполнение, визуально и с точки зрения цели победы
  11. Приоритизация, которая решает, независимо от шансов на выживание или накопления активов, победить ли Джека в шахматах, делать что-то еще или ничего (недетерминировано, если правильное древнее и общепринятое понятие причинной автономии души)

Топология соединений следующая, а может быть и больше.

1 ⇄ 4 ⇄ 2

3 ⇄ 5 ⇄ 2

4 ⇄ 6 ⇄ 5

7 ⇄ 8 ⇄ 9

6 ⇄ 10 ⇄ 8

10 ⇄ 11

Это одна из многих топологий интеграции, которые поддерживают один из многих типов вещей, к которым может относиться сознание.

Если смотреть в зеркало, чтобы просто подготовиться к работе, или смотреть глубоко, учитывая онтологический вопрос: «Кто я?» каждая смесь сознания, подсознания, импульса и привычки требует определенной топологии психических особенностей. Каждая топология должна быть скоординирована, чтобы сформировать свое конкретное воплощение сознания.

Чтобы ответить на некоторые другие подвопросы, легко сделать машину, которая заявляет о том, что она осознает, что цифровой диктофон можно запрограммировать сделать это за пять секунд, записав себя, говоря это.

Заставить робота прочитать этот ответ или какую-то другую концепцию, обдумать его, а затем составить предложение из знания словарного запаса и условностей человеческой речи, чтобы сказать вам, что его вывод - совершенно другая задача. Разработка такого робота может занять еще 1000 лет исследований ИИ. Может быть, десять. Возможно никогда.

Последний вопрос, переключаемый с множественного числа на единственное, звучит так: «Если [искусственно интеллектуальное устройство] только [работает] по заранее определенным правилам, без сознания, можем ли мы даже назвать его интеллектуальным?» Ответ обязательно зависит от определенияΦя выше, и, так как ни Φс ни Φяиметь стандартное определение в сообществе ИИ, нельзя определить перекрестную энтропию или корреляцию. Это неопределимо.

Возможно формальные определения Φс и Φя Теперь можно написать и представить в IEEE или какой-либо орган стандартизации.

Дуглас Дасеко
источник
Мое понимание нового использования «узости» заключается в том, что оно означает высокую производительность в конкретной задаче, в отличие от традиционного использования «сильного ИИ» в качестве AGI.
DukeZhou
1
Вы знакомы с тем, что называется «трудной проблемой сознания» ( en.wikipedia.org/wiki/Hard_problem_of_consciousness )? Я думаю, что описываю функциональное описание сознания, не спрашивая что-то вроде «почему квалиа вообще существует?» вроде упрощает весь вопрос.
Стивен
2
Интересный ответ, даже несмотря на то, что он грешит во многом, как, например, утверждение: «Что касается способности подтверждать сознание, то на самом деле это легче подтвердить, чем разум». Это, мягко говоря, не «смелый». Я в сознании - это я знаю. Я действительно не могу поручиться за любое другое живое существо, правда. И я даже не мог понять, «когда / как» я пришел в сознание. В какой-то момент я не был - до рождения и зачатия. Сегодня я. Как и когда именно это произошло? Как сказал @StevenSagona - Сознание - это действительно сложная проблема. Лечение так же просто подрывает (и отклоняет) от вопроса.
Виниций М
Я полагаю, что вы смешиваете два разных понятия: внимание и сознание.
nbro
0

Сознательные ИИ важны, потому что сознание - это то, что делает нас людьми. И ученые пытаются разработать ИИ, которые ближе к людям и человеческому поведению. Мыслительный процесс людей очень сложен, и его развитие в ИИ может действительно заменить нас роботами, обладающими сознанием. Единственная причина, по которой ИИ не берут на себя работу, связанную с принятием решений, потому что у них нет сознания.

Ширин Моханти
источник
2
Я думаю, что для этого нужны некоторые цитаты и определения. Я бы лично не согласился с тем, что «сознание - это то, что делает нас людьми», потому что мои определения сознания учитывают степени сознания, и я предполагаю, что более сложные животные - например, большинство млекопитающих - сознательны. Я также считаю, что сознание умеренно отделено от рассуждений - например, возможно быть сознательным и находиться в ментальном состоянии, полностью контролируемом эмоциональными реакциями, а не рациональным принятием решений. Тем не менее, вы можете работать с разными определениями - поэтому вам нужно добавить их в ответ.
Нил Слэйтер