Является ли человеческий интеллект разумной целью? [закрыто]

Похоже, что в литературе всегда фокусировались приблизительные компоненты человеческого разума, считая его наиболее продвинутым. Если другие животные попадали в ландшафт ИИ, это было только для изучения приматов способами, которые не практичны для изучения людей или для моделирования нейронной активности слизняка, потому что его нервная система проста.

Возможно, есть более дальновидная причина, чтобы рассмотреть возможность использования низших форм жизни в качестве модели для желаемого искусственного интеллекта. Я читал, что Э.О. Уилсон и другие говорили о совместных способностях других видов. У организмов есть замечательные качества, такие же простые и адаптивные, как у бактерий. Конечно, муравьи являются модельным видом для сотрудничества. Медоносные пчелы, пожалуй, наиболее подкованы в строительстве, поддерживая устойчивость образа жизни и взаимоотношений с другими видами в форме искусства, намного превосходящей возможности человеческого интеллекта.

Используя спортивные аналогии, чтобы охарактеризовать варианты, человеческий интеллект больше похож на до-просветительский спорт гладиаторов или, по крайней мере, хоккей на льду, где травмирование противника считается разумной стратегией. То, что делают пчелы, больше похоже на альпинизм, построение с точностью и тщательностью.

То, что делают муравьи, очень похоже на эстафету, когда команда противников мало интересуется, потому что каждая колония, как и каждая полоса на трассе, независима и полосы обозначены. Муравьи также отмечают свою территорию, а территориальные претензии уважаются, как в лучшем из вестфальского геополитического государственного управления. Нет ни мелкой ревности, ни соревнований исключительно ради гордого первенства. С муравьями, как и с умным тренером по легкой атлетике, цель состоит в том, чтобы каждый этап гонки показывал хорошие результаты в сравнении с предыдущими лучшими эстафетными гонками.

Бактерии - бегуны на длинные дистанции. Они обмениваются ДНК друг с другом и игнорируют все правила боли и страха. Они ведут себя устойчивым образом, который ничего не принимает на веру и использует все для выживания. И они выжили почти на протяжении всего существования Земли. Скорее всего, они пройдут через сто миллиардов лет после того, как человечество исчезнет, ​​если сначала Солнце не пойдет сверхновой.

Зачем нам программировать компьютеры так, чтобы они бесконечно вели себя как конкуренты? Люди загружают умные шахматные программы, чтобы они могли многократно проигрывать? Нет, они загружают ОС Android, потому что она сотрудничает и ничего не стоит. Разве мы не можем найти игры с ненулевой суммой, в которых возможны беспроигрышные сценарии?

Разве у нас уже нет достаточно клеветнических, сплетничающих, гиперкритических агентов вокруг нашего собственного вида? Почему бы не направить ИИ в направлении совместной разведки, как муравьи? Разве не было бы лучше иметь новых искусственных друзей, которые хотели бы разделить бремя наших ежедневных задач?

Разве мы не хотим, чтобы наши роботы будущего строили, как строит медоносная пчела, в шестиугольниках? Или мы хотим, чтобы наши роботы следовали нашему примеру, тратя 70% материалов на вертикальные конструкции из-за иррациональной настойчивости на углах в девяносто градусов, как это делали бы только люди?

Я придерживаюсь довольно смутного взгляда на людей как на вид и предложил обратный тест Тьюринга, с помощью которого люди оцениваются на достаточную человечность ( 仁 ). (шучу, но не совсем;)

Люди явно не самые успешные виды на земле, если вы едете на биомассе:

Я полностью согласен с тем, что менее сложные формы жизни очень эффективны, и их стоит подражать для конкретных проблем (см. Пример алгоритмов оптимизации колонии муравьев ).

Но как выглядит мир, когда им управляют муравьи? Это мир, в котором мы хотим жить?

Конкуренция в природе не только абсолютно жестока, но и является механизмом, посредством которого виды оптимизируются (эволюция).

Люди несовершенны, но мы также достигли великих триумфов, и что может отличить нас от животных, так это то, что наши успехи могут также попасть в категорию «триумфов духа». Там, где силы эгоизма и жадности ведут общество в одном направлении, у нас также есть противодействие, толкающее в других направлениях.

Некоторые игры просто с нулевой суммой, и обойти это невозможно, но это не значит, что они должны быть «все или ничего» ( именно по этой причине мы рекомендуем партизанское судоку над шахматами).

Есть концепция, которую стоит рассмотреть, известная как эффективность Парето . Финансовые спекуляции, на которых сейчас основывается большая часть мировой экономики, зависят от принципа «большего дурака» , когда выгода одного агента полностью зависит от потери другого агента. Худшие из нас, кажется, сосредоточены на этих механизмах, исключая все остальные, потому что это не требует никаких реальных обязательств, просто более тщательного анализа и / или лучшей информации и ликвидности.

Лучшее из нас, кажется, достигает вместо этого улучшения Парето, с помощью которого можно улучшить состояние агентов, не требуя ухудшения состояния других агентов.

Дело в том, что человеческому разуму потребовалось выявить и определить эти условия. (Природа все равно.) Оптимальность по Парето была спорной из - за его происхождение, но это было до того, индустрия высоких технологий, что является очень хорошим на создании новых возможностей, и мне кажется , он также может быть использован для распределения баланса ресурсов попытаться максимизировать социальную стабильность. (то есть иногда может быть более оптимальным быть немного хуже.)

Мое мрачное видение нашего вида исходит не от того, что оно неэффективно или часто глупо, а от идеи, что на этом этапе истории мы все еще ведем себя так, как будто мы только что спустились с деревьев, вместо этого возвращаясь к племенному и партизанскому конфликту. сотрудничества.

Вопреки вашему тезису:

• Я полагаю, что не только важно достичь алгоритмического интеллекта на уровне человека, но и мы обязаны «гуманизировать» такие алгоритмы в максимально возможной степени.

Суперинтеллект и AGI все еще находятся на горизонте и являются полностью теоретическими, но, если они достигнуты и эти алгоритмы являются чистым механизмом, лишенным ценностей, которыми мы, люди, в лучшем случае дорожим, мы можем в конечном итоге стать просто еще одной жертвой эволюционного процесса Устаревшие от новых форм искусственной жизни, у нас нет шансов конкурировать.

В некотором смысле стремление к подобию человека можно рассматривать как торжество человечества, более изощренное, но не совсем иное по духу, чем Давид Микеланджело.

Хотя человеческая природа имеет много недостатков, она, безусловно, была наиболее успешной, если она существует, на что указывает @DukeZhou. Успех можно целиком и полностью объяснить тем, что у нас очень хорошо функционирующий и способный мозг. По сравнению с другими видами мы физически (физическое мастерство) гораздо более неспособны. Итак, если мы пытаемся создать ИИ, разве мы не должны пытаться смоделировать наш собственный мозг, лучшую интеллектуальную систему?

Одна вещь, которую вы пропустили, это то, что люди намного спокойнее, чем все другие животные. Животные ведут постоянную войну за выживание, мы, люди, смогли преодолеть все это, и мы живем в самые мирные времена всего тысячелетия. Могут возникнуть конфликты, это может быть связано с нашими генами. Наши гены происходят от наших животных предков, где они представляют многие вещи как угрозы (в том числе однополые животные противоположного пола, противоположный мыслительный процесс также может восприниматься как угроза). Так что это обязательно просочится в наш менталитет. Можем ли мы изменить это? Возможно, нет (возможно, это противоречит законам природы и естественного отбора).

Давайте посмотрим на 2 случая, когда не было конкуренции:

• Джаравас - Эти люди живут в уединении на острове (даже сейчас). В результате они все еще ведут образ жизни охотника-собирателя, что можно объяснить тем, что они не чувствовали необходимости меняться, поскольку не видели угрозы своей жизни или положению. Поскольку мы мудры, мы не вторгаемся на их территории, зная, что они не будут существовать против современных технологий (также потому, что они не представляют угрозы для нас).
• Коренные американцы : в то время как Европа и Азия были в состоянии войны, эти люди жили на острове (только в борьбе) В результате их технологии практически не развивались, и они были почти уничтожены.

Сотрудничество с муравьями и пчелами - это неправильное название для меня. Это полностью связано с тем фактом, что все муравьи / пчелы в конкретной колонии являются братьями и сестрами (в противном случае они жестоко убивают другие колонии). Кроме того, они поддерживают территориальные границы, пока в них есть много ресурсов, в противном случае идет война (я не могу привести никаких источников, но я слышал, как много муравьев вторгается на территории других муравьев).

Бактерии не испытывают боли или страха, но сказать, что они существовали долго из-за сотрудничества, мне не совсем правильно. У них, вероятно, есть эффективный механизм выживания.

Смысл всего этого в том, что, как сказал @Neil Slater, нет радужной картины животного мира.

Приходя к тому, как мы должны создать поведение ИИ? У ИИ пока нет генов, поэтому у них нет никаких обязательств перед его потомством, и у них не будет ревности, это означает, что у них нет основных строительных блоков биологического организма (и, следовательно, они не имеют никаких обязательств / интересов по отношению к нему). Но я считаю, что конкуренция среди ИИ хорошая, иначе как они будут изучать новые стратегии? Таким образом, конкуренция без ревности - лучший сценарий для агентов ИИ (это может быть не так в царстве животных). если нет конкуренции, то знания среди ИИ, вероятно, останутся на прежнем уровне.

Я не эксперт в теории игр, но если 2 или более агента соревнуются друг с другом, они должны следовать теории игр, чтобы максимизировать свои результаты (вероятно, указав Pareto Efficiency, как указано @DukeZhou, или с точки зрения физики энергия не создается и не уничтожается , распространяется только от системы к системе). Но здесь есть одна загвоздка, есть несколько жизнеспособных стратегий, полностью зависящих от окружающей среды . Это была тема, которая была исследована компьютерными учеными Аксельродом и Гамильтоном, где они протестировали несколько стратегий. Упрощенную версию их экспериментов можно найти в The Selfish Geneкнига, глава 12. Их эксперименты (смоделированные на компьютере), по-видимому, дают некоторые доказательства того, что хорошие парни (парни, которые делают одолжения безоговорочно) не всегда проигрывают эгоистичным парням. Это должно быть более исследовано, если мы действительно хотим создать колонию ИИ.

TL; DR : несправедливо сравнивать ИИ с животным миром, так как им не хватает основной единицы выживания (гена). Люди, безусловно, самые умные и самые мирные среди всего животного мира. Конкуренция без ревности, вероятно, является лучшим способом действий в любой колонии или видах.

Некоторые характеристики человеческого интеллекта, безусловно, являются частью основной долгосрочной цели ИИ. Большинство из этих характеристик, очевидно, также являются свойствами других видов. Действительно важным вопросом является то, как компьютер может воспринимать не только по-человечески, но и вообще воспринимать? Символы, испускаемые цифровыми датчиками, не указывают, что было обнаружено. Все, что получает компьютер, это символы, так как компьютер может воспринимать что-либо?

Другая действительно важная проблема заключается в том, что люди и, возможно, большинство других животных в некоторой степени обладают общим интеллектом - могут применять то, что было изучено в прошлом, к новым ситуациям. У людей есть версия общей проблемы знаний, которая относится к языку, так что это чисто человеческий вопрос. Но многие животные явно обладают какими-то общими знаниями. ИИ еще не произвел машину с общими знаниями. Губительные последствия «крайних случаев» для программного обеспечения ИИ для самостоятельного вождения автомобиля - очень тревожное доказательство. Как получить общий интеллект - тоже абсолютно фундаментальная проблема.

Итак, подведу итог моему ответу: в настоящее время подобный человеку интеллект не является разумной целью. ИИ имеет гораздо более фундаментальные проблемы. В настоящее время разумной целью является понимание принципов восприятия и способов их воплощения в компьютере (при условии, что это возможно), а также понимание принципов общего интеллекта и способов их воплощения.

То есть выяснить, как животные знают свое окружение и как они адекватно реагируют на новые ситуации на основе прошлого опыта.