Почему исследования генетических алгоритмов замедлились?

45

Обсуждая некоторые темы начального уровня сегодня, в том числе использование генетических алгоритмов; Мне сказали, что исследования в этой области действительно замедлились. Причина была в том, что большинство людей сосредоточено на машинном обучении и интеллектуальном анализе данных.
Обновление: это точно? И если да, то какие преимущества дает ОД / ДМ по сравнению с ГА?

FossilizedCarlos
источник
2
Пожалуйста, переформулируйте вопрос так, чтобы он требовал меньшего количества мнений, но большего количества фактов (например, недостатки ГА / ЭО, которые со временем стали более очевидными).
Рафаэль
1
Насколько я знаю, если дано много алгоритмов, которые могут решить конкретную проблему, GA не будет лучшим в большинстве случаев.
Стрин

Ответы:

33

Что ж, машинное обучение в смысле статистического распознавания образов и интеллектуального анализа данных определенно является более горячей областью, но я бы не сказал, что исследования в области эволюционных алгоритмов особенно замедлились. Эти две области обычно не применяются к одним и тем же типам проблем. Не совсем понятно, как подход, основанный на данных, помогает вам, например, выяснить, как лучше планировать рабочие смены или более эффективно направлять пакеты.

Эволюционные методы чаще всего используются для сложных задач оптимизации, а не для распознавания образов. Наиболее прямыми конкурентами являются подходы к исследованию операций, в основном математическое программирование и другие формы эвристического поиска, такие как поиск по табу, имитационный отжиг и десятки других алгоритмов, известных под общим названием «метаэвристика». Есть две очень большие ежегодные конференции по эволюционным вычислениям (GECCO и CEC), множество небольших конференций, таких как PPSN, EMO, FOGA и Evostar, и, по крайней мере, два крупных высококачественных журнала (IEEE Transactions on Evolutional Computation и MIT Press). журнал Evolution Computing), а также ряд более мелких, которые включают в себя EC часть своей более широкой направленности.

С учетом всего вышесказанного, в любом сравнении «жаркости» есть несколько преимуществ, которые в целом считают «машинным обучением». Во-первых, это имеет тенденцию быть на более прочной теоретической основе, что математики всегда любят. Во-вторых, мы находимся в эпохе золотого века для данных, и многие из передовых методов машинного обучения действительно начинают сиять только при наличии тонны данных и тонны вычислительной мощности, и в обоих отношениях время в некотором смысле "правильно".

deong
источник
Не могли бы вы уточнить / выделить ваш ответ на этот вопрос?
Рафаэль
Я не уверен, что конкретно вы хотели бы, чтобы я уточнил.
Deong
Просто ответьте на вопрос ОП: в чем заключаются (жесткие) преимущества ОД перед ГА / ЭА? Или вы предлагаете что-то ортогональное?
Рафаэль
2
Я говорю, что они (в основном) не относятся к одним и тем же проблемам. Преимущество ML в том, что он действительно хорошо работает для распознавания и классификации образов; Преимущество ГА в том, что они работают над сложными задачами оптимизации. Кроме того, это все равно что просить преимущества автомобилей по сравнению с домами. Многие алгоритмы ML включают решение задачи оптимизации в качестве шага обучения, и существуют подходы к обучению на основе GA (системы классификаторов обучения), но в основном это просто разные области.
Deong
21

Несколько десятилетий назад люди думали, что генетические и эволюционные алгоритмы - это нож швейцарской армии, подпитываемый впечатляющими ранними результатами. Такие заявления, как гипотеза строительного блока, были сделаны, чтобы доказать, что они в целом являются хорошими стратегиями.

Тем не менее, точные результаты были медленными и часто отрезвляющими, особенно в теореме об отсутствии бесплатного обеда . Стало очевидным, что генетические / эволюционные алгоритмы часто являются достойной эвристикой, но никогда не являются оптимальными в любом смысле.

Сегодня мы знаем, что чем больше мы знаем о проблеме и ее структуре, тем меньше смысла использовать генетические / эволюционные алгоритмы, поскольку другие методы, использующие эти знания, превосходят их по величине. Однако в тех случаях, когда мало что известно о рассматриваемой проблеме, они по-прежнему остаются жизнеспособной альтернативой, поскольку они вообще работают.

Рафаэль
источник
8
Мне кажется, следует подчеркнуть, что NFLT устанавливает «ограничения» не только для GA, но и для всех алгоритмов эвристического поиска. Ни один из них не хорош в каждом случае, и поэтому, по вашему мнению, ни один из них не является оптимальным в любом смысле.
Юхо
Я помню, как использовал генетические алгоритмы для решения аэродинамической задачи, и после недель и недель вычислений результат был бесконечно хуже, чем результат, полученный в самой грубой теории аэродинамики. У меня сложилось впечатление, что искусственный интеллект и подобные ему абсолютно не заменяют знание предметной области
user5193682
@ user9589 Оба не являются взаимоисключающими. Знание предметной области может помочь вам выбрать и настроить эвристические методы.
Рафаэль
@ Рафаэль Я бы сказал, что искусственный интеллект помогает вам настроить знание предметной области.
user5193682
13

На мой взгляд, критическая часть истории отсутствует в других ответах:

Генетические алгоритмы в основном полезны для задач поиска методом грубой силы.

Во многих контекстах более простые стратегии оптимизации или модели логического вывода (которые вы бы назвали машинным обучением) могут работать очень хорошо и делать это гораздо эффективнее, чем поиск методом "грубой силы".

Генетические алгоритмы, такие как имитационный отжиг, наиболее эффективны в качестве стратегии для решения сложных задач поиска (например, полный NP). Эти области, как правило, настолько ограничены внутренней сложностью проблем, что подстройка и повторение скромных факторов в стратегии решения путем постепенного улучшения генетических алгоритмов часто не очень полезны и, таким образом, не слишком захватывающи.

JRK
источник
12

В некоторой степени, машинное обучение становится все более математическим, и алгоритмы могут быть «проверены» для работы. В некотором смысле, ГА очень «произошли», и вы не можете точно ответить на вопрос «так что же сделала ваша программа?» (хорошо в глазах некоторых людей, так или иначе).

Я лично выступаю за объединение нейронных сетей и GA = GANN. В своей дипломной работе я разработал алгоритм прогнозирования лекарств, сначала используя NN, затем GA, и, наконец, GANN, который взял лучшее из обоих миров и превзошел оба других набора. YMMV, однако.

Марк Мейо
источник
2
Пожалуйста, приведите простой пример, где преимущества «ML» становятся очевидными, чтобы представить некоторые доказательства ваших претензий. Также, пожалуйста, дайте правильную ссылку / ссылку на ваш тезис.
Рафаэль
по теме: Нейроэволюция
Франк Дернонкур
4

Машинное обучение раскрывает большую часть математического аппарата, который должен быть разработан и применен. Генетические алгоритмы в основном выполняются эвристикой.

ом Ном ном
источник
2
Вы можете доказать вещи о GA / EA. Это трудно, хотя. В то время как у ML есть строгие основы, те, кто применяет методы ML, часто делают это на специальной основе. Так ваш аргумент существует только на бумаге, или есть разница в практике?
Рафаэль