Какой тип моделируемой среды достаточно сложен для разработки общего ИИ?

11

Представьте себе попытку создать виртуальную виртуальную среду, достаточно сложную для создания «общего ИИ» (которую я определяю как самоосознающий ИИ), но настолько простую, насколько это возможно. Какой будет эта минимальная среда?

то есть среда, которая была просто игрой в шахматы, была бы слишком простой. Шахматная программа не может быть общим AI.

Среда, в которой несколько агентов играют в шахматы и сообщают свои результаты друг другу. Будет ли это представлять собой общий ИИ? (Если вы можете сказать, что у шахматного гроссмейстера, который весь день думает о шахматах, есть «общий ИИ»? Во время своего размышления о шахматах он чем-то отличается от шахматного компьютера?).

А как насчет трехмерного сим-подобного мира? Это кажется слишком сложным. В конце концов, почему общий ИИ не может существовать в двухмерном мире.

Что может быть примером простой среды, но не слишком простой, чтобы AI (ы) могли иметь самосознание?

zooby
источник
Я исправил свой ответ, чтобы более полно ответить на ряд вопросов, которые вы задаете.
DukeZhou
Угадайте вопрос отрицания, создает ли среда ИИ, если в конечном итоге бог не существует без среды или подобных последователей.
Бобс
«самоосознающий ИИ» не более описательный, чем «общий ИИ». Что значит «самосознание»?
Данк

Ответы:

5

Я думаю, что это один из лучших вопросов, связанных с AGI, которые я вижу на этом форуме.

Я пропущу все темы о том, что такое AGI, «игра-симулятор», ... Эти темы обсуждались десятилетиями, и в настоящее время они, на мой взгляд, тупиковые.

Таким образом, я могу ответить только своим личным опытом:

Базовая теорема вычисления состоит в том, что любое число измерений, в том числе временное, в пространстве конечных размеров может быть уменьшено до 1D.

Однако в практических примерах 1D представление становится сложным для анализа и визуализации. Это более практичная работа с графиками, которую можно рассматривать как промежуточное звено между 1D и 2D. Графики позволяют отображать все необходимые факты и связи.

Например, если мы попытаемся разработать AGI, способный работать в области математики, любое выражение (то, что люди пишут в двухмерном представлении с рациональными числами, индексами, интегралами, ...) может быть представлено как 1D (как выражение записано в исходном коде программы), но это 1D необходимо проанализировать, чтобы получить график, который можно проанализировать или выполнить. Таким образом, график, который получается после разбора выражения, является наиболее практичным представлением.

Другой пример, если нам нужен агент, который путешествует по трехмерному миру, этот мир можно рассматривать как пустое пространство с объектами, которые имеют некоторые свойства. Опять же, после начального этапа анализа сцены и распознавания объектов (эквивалент синтаксического анализатора в предыдущем примере), мы достигли графика.

Таким образом, чтобы по-настоящему работать в области AGI, я предлагаю пропустить проблемы анализа сцены, распознавания объектов, распознавания речи (Narrow AI) и работы непосредственно над репрезентативными графиками.

Pasaba Por Aqui
источник
1
Интересно, вы говорите о графиках. Потому что мой инстинкт подсказывал мне, что какая-то сущность, которая перемещается по узлам графа, может быть достаточно сложной. Но я волнуюсь, что конечный граф с конечными событиями будет довольно ограниченным. Но, с другой стороны, наша собственная жизнь довольно ограничена, когда вы думаете об этом: есть, работать, спать, повторять. Однако, если сущности должны были конкурировать (или сотрудничать) с другими сущностями, возможно, было бы более сложное поведение, когда они пытались бы угадать друг друга.
zooby
3

Я думаю, что самое важное, это то, что он должен каким-то образом моделировать время. Подумайте самосознающий чатбот Тогда для «самосознания» окружающая среда может представлять собой данные, поступающие во времени, которые можно различить как «себя» и «другие». Под этим я полагаю, что я имею в виду «я» - это та часть, на которую оно напрямую влияет, а «другая» - это та часть, на которую влияют косвенно или нет вообще. Кроме этого он, вероятно, может жить в довольно абстрактных средах. Время так важно, потому что без него когнитивный алгоритм просто решает математическую задачу.

Андрей
источник
1
В компьютерной теории время сводится к последовательности событий. Таким образом, одномерное событие (то есть строка), которое развивается во времени, можно рассматривать как двумерное событие (массив строк) или 1D последовательность (последовательность строк).
Pasaba Por Aqui
1
Я не согласен с представлением о том, что время в реальном мире (или, возможно, в достаточно интересном искусственном) можно адекватно отклонить как «просто другое измерение». Нужно по крайней мере одно временное измерение, чтобы поддержать любое представление энтропии или изменения. И я бы сказал, что любые адекватные представления динамических систем требуют адекватного различия временного измерения от положения. Даже ваше репрезентативное предложение придаст порядку последовательности особое место.
42-
1
@ 42- Так и случилось, когда я попытался формально определить топологическую структуру Судоку и Латинских квадратов как вероятностные матричные функции с использованием теории множеств, я врезался в стену, пока не начал смотреть на эволюцию гамильтониана и не понял t (время, или, «повороты» в новой игровой теории (ортогональные массивы) были недостающим элементом!
DukeZhou
Думая сейчас о динамических системах в общей теории относительности. Возможно, вам нужна метрика "гравитация", чтобы рассчитать потенциал локального значения? Будут ли некоторые конфигурации "черными дырами"
42-
2

Общий ИИ может абсолютно существовать в двухмерном мире, только если обобщенный ИИ (определяемый здесь как «последовательная сила в наборе проблем») в этом контексте все равно будет весьма отличаться от Искусственного общего интеллекта , определяемого как «алгоритм, который может выполнить любое интеллектуальное задание, которое может выполнить человек ".

Даже там, определение AGI нечетко, потому что "какой человек?" (Человеческий интеллект - это спектр, в котором люди обладают разной степенью способности решать проблемы в разных контекстах.)


Искусственное Сознание : К сожалению, самоосознание / сознание является сильно метафизической проблемой, отличной от способности решать проблемы (интеллект).

Вы определенно хотите посмотреть « Китайскую комнату » и опровержения.


Вероятно, стоит взглянуть на голографический принцип : «концепция в физике, при которой пространство рассматривается как голограмма n-1 измерений». Конечно, модели и игры могут быть структурированы таким образом.

Еще одно место для изучения - теории возникновения суперинтеллекта в бесконечной игре жизни Конвея . (В двух словах, я понимаю, что, как только исследователи выяснили, как генерировать любое число в клеточных автоматах, возможность появления новых чувств при наличии игрового поля достаточного размера, по крайней мере, теоретически обоснована.)

DukeZhou
источник
2

На сегодняшний день один из ответов @DukeZhou был самым провокационным. Например, ссылка на критику «Китайской комнаты» поднимает утверждение Сирла о том, что некоторая форма интенциональности может нуждаться в поддержке в искусственной среде. Это может означать необходимость системы ценностей или системы удовольствия, то есть чего-то, где хорошие последствия можно «испытать» или активно искать, а плохие последствия можно избежать. Или может потребоваться признать некоторый потенциал для индивидуального вымирания (смерти или прекращения). Возможность «эго-смерть»может потребоваться иметь высокое отрицательное значение. Это может подразумевать, что искусственный мир должен включать в себя «другие умы» или других агентов, которые развивающийся или обучающийся интеллектуальный агент может наблюдать (в некотором смысле) и «размышлять», то есть распознавать интеллект как свой собственный. В этом смысле картезианский силлогизм «я думаю, поэтому я есть» трансмутируется в: я (или, скорее, я как ИИ) вижу свидетельство того, что другие думают, и «черт возьми, я тоже могу». Такими «другими» могут быть либо другие системы обучения (AGI), либо некоторый контакт с дискретными входами людей, опосредованными искусственной средой. Обсуждение википедии о «обратном тесте Тьюринга»

Упоминание размерности должно спровоцировать дискуссию о том, какова будет необходимая глубина представления «физики» мира, внешнего по отношению к ИИ. Некоторое представление о времени и пространстве может показаться необходимым, то есть некая пространственная структура для продвижения к достижению цели. Мир блоков был ранней игрушечной проблемой , решение которой в 60-х и 70-х годах прошлого века вызывало оптимизм в отношении существенного прогресса. Я не знаю каких-либо попыток программировать с какой-либо болью или удовольствием в программе SHRDLU той эпохи (без падений на пальцы программы), но все интересные научно-фантастические представления ИИ имеют некоторое признание «физических» неблагоприятных последствий. в реальном мире".

Изменить: я собираюсь добавить потребность в «сущностях с функциями» в этой среде, которые могут быть «восприняты» (любым из «других», которые взаимодействуют с AGI) в качестве ввода данных для усилий по индукции, идентификации и вывод об отношениях. Это создает основу для общего «опыта».

42-
источник
Добро пожаловать в AI и спасибо за помощь! (ссылка «эго-смерть» не работает, но я не был уверен, что вы намеревались дать ссылку на вопрос или конкретный ответ, так что отложите исправление в ожидании разъяснения.) Отличные ссылки, кстати! Могу я спросить, является ли ваше прозвище ссылкой на предлагаемый ответ на вопрос "Сколько дорог должно пройти человеку?" :)
DukeZhou
На самом деле, нет. В интернете никто не знает, если вы общий AI.
42-
2

Несмотря на хороший ответ @pasaba por aqui, я согласен с @zooby, что график может быть слишком упрощенным. Если бы люди находились в среде, где были утоплены варианты, или предприняли 5000 несвязанных шагов, чтобы построить лодку, мы бы никогда не пересекли ни одно море. Я думаю, что любой график, если он был разработан вручную, не был бы достаточно сложным, чтобы называть агента в качестве общего ИИ. Миру понадобится достаточно промежуточных состояний, чтобы его лучше не описывать как граф, а как минимум многомерное пространство.

Я думаю, что есть 2 момента, которые вы должны рассмотреть. Что такое «просто» и когда вы узнаете его как «общий ИИ». Я не нахожу самосознательный ИИ удовлетворительным, поскольку мы не можем измерить то, что называется осознанием; мы можем видеть только его состояние и его взаимодействие с окружающей средой.

Для 1. Я бы сказал, что мир, в котором мы живем, на самом деле довольно прост. Есть 4 силы природы, несколько законов сохранения и куча типов частиц, которые объясняют большинство всего. Просто таких частиц много, и это привело к довольно сложному миру. Конечно, это дорого имитировать, но мы могли бы воспользоваться некоторыми способами. Людям 200 лет назад не понадобилась бы вся квантовая механика, чтобы объяснить мир. Если бы мы заменили протоны, нейтроны и сильную силу атомами в периодической таблице, мы бы в основном были в порядке. Проблема в том, что мы заменили еще 3 общих закона на 100 конкретных случаев. Чтобы моделируемая среда была достаточно сложной, я думаю, что эта тенденция должна сохраниться.

Это приводит меня к 2. Я думаю, что мы действительно были бы довольны агентом, выражающим общий ИИ, когда он может целенаправленно взаимодействовать с окружающей средой таким образом, чтобы это сбивало нас с толку, при этом явно извлекая выгоду из этого (поэтому не случайно). Теперь это может быть довольно сложно или займет очень много времени, поэтому более спокойным условием было бы создание инструментов, которые, как мы ожидали, он будет создавать, демонстрируя мастерство в собственной среде. Например, свидетельства о лодках были найдены где-то между 100 000 и 900 000 лет назад, что примерно в то же время, когда развивались ранние люди., Однако, хотя мы считаем себя умными, я не уверен, что мы считаем, что агент по изготовлению лодок обладает общим интеллектом, поскольку это кажется довольно простым изобретением. Но я думаю, что мы были бы удовлетворены после нескольких таких изобретений.

Поэтому я думаю, что нам нужен мир, похожий на сима, который на самом деле намного сложнее, чем игра. С тысячами типов предметов, множеством экземпляров каждого предмета и достаточной степенью свободы для взаимодействия со всем. Я также думаю, что нам нужно что-то знакомое, чтобы признать любого агента умным. Таким образом, трехмерный, сложный, похожий на майнкрафт мир был бы самым простым миром, в котором мы могли бы распознать появление общего интеллекта.

csiz
источник
0

«Искусственный общий интеллект» - это нечто отличное от агента, который действует разумно в окружающей среде. Потому что, согласно литературе, такие агенты называются «Узкий ИИ». Система AGI - это среда. Это означает, что последняя проблема Micromouse - это система AGI, целью которой является разработка узких систем искусственного интеллекта.

Разработка AGI равносильна разработке соревнования по робототехнике. Он оформлен в книге правил и служит средой для обучения, программирования программного обеспечения и обсуждения результатов. В любом случае система AGI - это социальное соревнование, а это значит, что для команд привлекательно участвовать в соревновании. AGI не отвечает, как реализовать интеллект, это тест для его измерения. Так называемый человеческий мозг, когнитивная архитектура и общие решения проблем не были разработаны как узкий ИИ для разумного действия, они были разработаны как тест Тьюринга для машины, которая является разумной.

Как мы можем измерить с помощью компьютерной программы, если другая компьютерная программа является интеллектуальной? Одной из возможностей является теория моделирования человека. Это означает, что мы проверяем, ведет ли компьютерная программа себя как человека, и тест Тьюринга имеет обязательство проверять кратковременную память, долговременную память и способность изучать новые вещи. В простейшей форме тест Тьюринга можно выполнить с помощью простой формы, которую необходимо заполнить человеком, но также можно вывести человека из цикла и использовать компьютер для проверки интеллекта другого компьютера. , Для этого были разработаны SOAR, OpenCog и AIXI.

Мануэль Родригес
источник
Трудно установить связь между этим ответом и исходным вопросом.
Pasaba Por Aqui