Знают ли ученые или эксперты-исследователи из кухни, что происходит внутри сложной «глубокой» нейронной сети, когда по крайней мере миллионы соединений разрываются в одно мгновение? Понимают ли они процесс, стоящий за этим (например, что происходит внутри и как именно это работает), или это предмет...
Если первоначальная цель разработки ИИ заключалась в том, чтобы помочь людям в выполнении некоторых задач, и эта цель по-прежнему сохраняется, почему мы должны заботиться о его объяснимости? Например, в глубоком обучении, если интеллект помогает нам в меру своих возможностей и тщательно принимает...
Кажется довольно спорным сказать, что подходы, основанные на NN, становятся довольно мощными инструментами во многих областях ИИ - будь то распознавание и разложение изображений (лица на границе, уличные сцены в автомобилях, принятие решений в неопределенных / сложных ситуациях или с частичными...
Там был недавний всплеск интереса к электронному X plainable A rtificial I ntelligence (ХАИ). Вот миссия XAI, как указано на странице DARPA : Программа Explainable AI (XAI) направлена на создание набора методов машинного обучения, которые: Создание более объяснимых моделей при сохранении высокого...