Может ли ИИ научиться страдать?

Сначала я подумал: «Может ли ИИ пострадать?». Страдание важно для человека. Представьте, что вы повредили пятку. Без боли вы будете продолжать причинять ей вред. То же самое для ИИ. Но потом я сказал себе: « Подожди секунду. Он уже существует. Это ошибки и предупреждения, которые появляются ». Можно сказать, что оно имеет ту же цель, что и страдание. Однако я почувствовал, что чего-то не хватает. Мы чувствуем боль. Ошибки и ошибки - это просто данные. Допустим, робот может использовать машинное обучение и генетическое программирование для развития.

Может ли ИИ научиться страдать? И не просто знаю, что это просто информация.

На очень высоком уровне, касающемся теории эволюционных игр и генетических алгоритмов, абсолютно возможно, что ИИ может развить состояние, аналогичное страданию, хотя, как вы со всей очевидностью указываете, это будет связано с условиями, о которых заботится компьютер. (Например, это может развить чувство, аналогичное «быть обиженным» из-за неоптимальности в алгоритмическом смысле, или «разочарование» в уравнениях не складывается, или «неудовлетворенность» по поводу целей, которые не были достигнуты.)

Можно сказать, что робот, которого мучают маленькие дети в торговом центре, «страдает», потому что дети блокируют работу робота, но робот не осознает, и можно сказать, что страдание требует осознанности. Однако даже без сознания этот очень простой робот может изучать новые способы поведения, с помощью которых он смягчает или избегает «страданий», вызванных неспособностью выполнять свою функцию.

Вы определенно хотите взглянуть на концепцию страдания в философском контексте, и Эпикур был бы очень полезным началом.

Эпикур имеет прямое отношение в алгоритмическом смысле, потому что он использует термин « атараксия », означающий «спокойствие», и происходит от глагола « тарассо », что означает «волновать или беспокоить».

Атараксия может быть математически выражена как равновесие. Тарасо может быть математически выражен как неравновесие.

Это напрямую связано с теорией игр, в которой неравенство можно назвать основным требованием к играм, а с ИИ в этой теории игр можно сказать, что оно является корнем всех ИИ.

Атараксия также понимается в смысле «свободы от страха», которая во временном отношении в этом страхе является функцией неопределенности, поскольку она относится к будущему в прогностическом смысле и включает текущее состояние по сравнению с возможными, менее оптимальными условиями будущего.

Таким образом, страх, который является формой страдания, коренится в вычислительной сложности, даже если «компьютер» - это человеческий мозг.

Ранние философы, такие как Демокрит , особенно полезны, потому что они исследовали критические, фундаментальные концепции, многие из которых теперь можно выразить с помощью современной математики.

То есть: вы не можете прийти к страданию, пока не определите сначала «хорошее» и «плохое», что является бинарным отношением, в котором нельзя сказать, что ни один термин не имеет значения без противоположного. (Математически, это может быть выражено в его самой простой форме как конечный, одномерный граф.) Это понимание довольно древнее.

Стоит отметить, что постоянная ценность ранних философов отчасти является фактором мудрости, не зависящим от объема знаний, что продемонстрировал Сократ в мысли, что мудрость может быть такой же простой, как знание, что вы чего-то не знаете.

У древних мудрецов не было преимуществ от мощных инструментов измерения, продвинутой математики или научного метода, но они были очень умными, и, что еще важнее, мудрыми.