Какой тип моделируемой среды достаточно сложен для разработки общего ИИ?

Представьте себе попытку создать виртуальную виртуальную среду, достаточно сложную для создания «общего ИИ» (которую я определяю как самоосознающий ИИ), но настолько простую, насколько это возможно. Какой будет эта минимальная среда?

то есть среда, которая была просто игрой в шахматы, была бы слишком простой. Шахматная программа не может быть общим AI.

Среда, в которой несколько агентов играют в шахматы и сообщают свои результаты друг другу. Будет ли это представлять собой общий ИИ? (Если вы можете сказать, что у шахматного гроссмейстера, который весь день думает о шахматах, есть «общий ИИ»? Во время своего размышления о шахматах он чем-то отличается от шахматного компьютера?).

А как насчет трехмерного сим-подобного мира? Это кажется слишком сложным. В конце концов, почему общий ИИ не может существовать в двухмерном мире.

Что может быть примером простой среды, но не слишком простой, чтобы AI (ы) могли иметь самосознание?

Я думаю, что это один из лучших вопросов, связанных с AGI, которые я вижу на этом форуме.

Я пропущу все темы о том, что такое AGI, «игра-симулятор», ... Эти темы обсуждались десятилетиями, и в настоящее время они, на мой взгляд, тупиковые.

Таким образом, я могу ответить только своим личным опытом:

Базовая теорема вычисления состоит в том, что любое число измерений, в том числе временное, в пространстве конечных размеров может быть уменьшено до 1D.

Однако в практических примерах 1D представление становится сложным для анализа и визуализации. Это более практичная работа с графиками, которую можно рассматривать как промежуточное звено между 1D и 2D. Графики позволяют отображать все необходимые факты и связи.

Например, если мы попытаемся разработать AGI, способный работать в области математики, любое выражение (то, что люди пишут в двухмерном представлении с рациональными числами, индексами, интегралами, ...) может быть представлено как 1D (как выражение записано в исходном коде программы), но это 1D необходимо проанализировать, чтобы получить график, который можно проанализировать или выполнить. Таким образом, график, который получается после разбора выражения, является наиболее практичным представлением.

Другой пример, если нам нужен агент, который путешествует по трехмерному миру, этот мир можно рассматривать как пустое пространство с объектами, которые имеют некоторые свойства. Опять же, после начального этапа анализа сцены и распознавания объектов (эквивалент синтаксического анализатора в предыдущем примере), мы достигли графика.

Таким образом, чтобы по-настоящему работать в области AGI, я предлагаю пропустить проблемы анализа сцены, распознавания объектов, распознавания речи (Narrow AI) и работы непосредственно над репрезентативными графиками.

Я думаю, что самое важное, это то, что он должен каким-то образом моделировать время. Подумайте самосознающий чатбот Тогда для «самосознания» окружающая среда может представлять собой данные, поступающие во времени, которые можно различить как «себя» и «другие». Под этим я полагаю, что я имею в виду «я» - это та часть, на которую оно напрямую влияет, а «другая» - это та часть, на которую влияют косвенно или нет вообще. Кроме этого он, вероятно, может жить в довольно абстрактных средах. Время так важно, потому что без него когнитивный алгоритм просто решает математическую задачу.

Общий ИИ может абсолютно существовать в двухмерном мире, только если обобщенный ИИ (определяемый здесь как «последовательная сила в наборе проблем») в этом контексте все равно будет весьма отличаться от Искусственного общего интеллекта , определяемого как «алгоритм, который может выполнить любое интеллектуальное задание, которое может выполнить человек ".

Даже там, определение AGI нечетко, потому что "какой человек?" (Человеческий интеллект - это спектр, в котором люди обладают разной степенью способности решать проблемы в разных контекстах.)

Искусственное Сознание : К сожалению, самоосознание / сознание является сильно метафизической проблемой, отличной от способности решать проблемы (интеллект).

Вы определенно хотите посмотреть « Китайскую комнату » и опровержения.

Вероятно, стоит взглянуть на голографический принцип : «концепция в физике, при которой пространство рассматривается как голограмма n-1 измерений». Конечно, модели и игры могут быть структурированы таким образом.

Еще одно место для изучения - теории возникновения суперинтеллекта в бесконечной игре жизни Конвея . (В двух словах, я понимаю, что, как только исследователи выяснили, как генерировать любое число в клеточных автоматах, возможность появления новых чувств при наличии игрового поля достаточного размера, по крайней мере, теоретически обоснована.)

На сегодняшний день один из ответов @DukeZhou был самым провокационным. Например, ссылка на критику «Китайской комнаты» поднимает утверждение Сирла о том, что некоторая форма интенциональности может нуждаться в поддержке в искусственной среде. Это может означать необходимость системы ценностей или системы удовольствия, то есть чего-то, где хорошие последствия можно «испытать» или активно искать, а плохие последствия можно избежать. Или может потребоваться признать некоторый потенциал для индивидуального вымирания (смерти или прекращения). Возможность «эго-смерть»может потребоваться иметь высокое отрицательное значение. Это может подразумевать, что искусственный мир должен включать в себя «другие умы» или других агентов, которые развивающийся или обучающийся интеллектуальный агент может наблюдать (в некотором смысле) и «размышлять», то есть распознавать интеллект как свой собственный. В этом смысле картезианский силлогизм «я думаю, поэтому я есть» трансмутируется в: я (или, скорее, я как ИИ) вижу свидетельство того, что другие думают, и «черт возьми, я тоже могу». Такими «другими» могут быть либо другие системы обучения (AGI), либо некоторый контакт с дискретными входами людей, опосредованными искусственной средой. Обсуждение википедии о «обратном тесте Тьюринга»

Упоминание размерности должно спровоцировать дискуссию о том, какова будет необходимая глубина представления «физики» мира, внешнего по отношению к ИИ. Некоторое представление о времени и пространстве может показаться необходимым, то есть некая пространственная структура для продвижения к достижению цели. Мир блоков был ранней игрушечной проблемой , решение которой в 60-х и 70-х годах прошлого века вызывало оптимизм в отношении существенного прогресса. Я не знаю каких-либо попыток программировать с какой-либо болью или удовольствием в программе SHRDLU той эпохи (без падений на пальцы программы), но все интересные научно-фантастические представления ИИ имеют некоторое признание «физических» неблагоприятных последствий. в реальном мире".

Изменить: я собираюсь добавить потребность в «сущностях с функциями» в этой среде, которые могут быть «восприняты» (любым из «других», которые взаимодействуют с AGI) в качестве ввода данных для усилий по индукции, идентификации и вывод об отношениях. Это создает основу для общего «опыта».

Несмотря на хороший ответ @pasaba por aqui, я согласен с @zooby, что график может быть слишком упрощенным. Если бы люди находились в среде, где были утоплены варианты, или предприняли 5000 несвязанных шагов, чтобы построить лодку, мы бы никогда не пересекли ни одно море. Я думаю, что любой график, если он был разработан вручную, не был бы достаточно сложным, чтобы называть агента в качестве общего ИИ. Миру понадобится достаточно промежуточных состояний, чтобы его лучше не описывать как граф, а как минимум многомерное пространство.

Я думаю, что есть 2 момента, которые вы должны рассмотреть. Что такое «просто» и когда вы узнаете его как «общий ИИ». Я не нахожу самосознательный ИИ удовлетворительным, поскольку мы не можем измерить то, что называется осознанием; мы можем видеть только его состояние и его взаимодействие с окружающей средой.

Для 1. Я бы сказал, что мир, в котором мы живем, на самом деле довольно прост. Есть 4 силы природы, несколько законов сохранения и куча типов частиц, которые объясняют большинство всего. Просто таких частиц много, и это привело к довольно сложному миру. Конечно, это дорого имитировать, но мы могли бы воспользоваться некоторыми способами. Людям 200 лет назад не понадобилась бы вся квантовая механика, чтобы объяснить мир. Если бы мы заменили протоны, нейтроны и сильную силу атомами в периодической таблице, мы бы в основном были в порядке. Проблема в том, что мы заменили еще 3 общих закона на 100 конкретных случаев. Чтобы моделируемая среда была достаточно сложной, я думаю, что эта тенденция должна сохраниться.

Это приводит меня к 2. Я думаю, что мы действительно были бы довольны агентом, выражающим общий ИИ, когда он может целенаправленно взаимодействовать с окружающей средой таким образом, чтобы это сбивало нас с толку, при этом явно извлекая выгоду из этого (поэтому не случайно). Теперь это может быть довольно сложно или займет очень много времени, поэтому более спокойным условием было бы создание инструментов, которые, как мы ожидали, он будет создавать, демонстрируя мастерство в собственной среде. Например, свидетельства о лодках были найдены где-то между 100 000 и 900 000 лет назад, что примерно в то же время, когда развивались ранние люди., Однако, хотя мы считаем себя умными, я не уверен, что мы считаем, что агент по изготовлению лодок обладает общим интеллектом, поскольку это кажется довольно простым изобретением. Но я думаю, что мы были бы удовлетворены после нескольких таких изобретений.

Поэтому я думаю, что нам нужен мир, похожий на сима, который на самом деле намного сложнее, чем игра. С тысячами типов предметов, множеством экземпляров каждого предмета и достаточной степенью свободы для взаимодействия со всем. Я также думаю, что нам нужно что-то знакомое, чтобы признать любого агента умным. Таким образом, трехмерный, сложный, похожий на майнкрафт мир был бы самым простым миром, в котором мы могли бы распознать появление общего интеллекта.

«Искусственный общий интеллект» - это нечто отличное от агента, который действует разумно в окружающей среде. Потому что, согласно литературе, такие агенты называются «Узкий ИИ». Система AGI - это среда. Это означает, что последняя проблема Micromouse - это система AGI, целью которой является разработка узких систем искусственного интеллекта.

Разработка AGI равносильна разработке соревнования по робототехнике. Он оформлен в книге правил и служит средой для обучения, программирования программного обеспечения и обсуждения результатов. В любом случае система AGI - это социальное соревнование, а это значит, что для команд привлекательно участвовать в соревновании. AGI не отвечает, как реализовать интеллект, это тест для его измерения. Так называемый человеческий мозг, когнитивная архитектура и общие решения проблем не были разработаны как узкий ИИ для разумного действия, они были разработаны как тест Тьюринга для машины, которая является разумной.

Как мы можем измерить с помощью компьютерной программы, если другая компьютерная программа является интеллектуальной? Одной из возможностей является теория моделирования человека. Это означает, что мы проверяем, ведет ли компьютерная программа себя как человека, и тест Тьюринга имеет обязательство проверять кратковременную память, долговременную память и способность изучать новые вещи. В простейшей форме тест Тьюринга можно выполнить с помощью простой формы, которую необходимо заполнить человеком, но также можно вывести человека из цикла и использовать компьютер для проверки интеллекта другого компьютера. , Для этого были разработаны SOAR, OpenCog и AIXI.