Предоставляемые утверждения о генетических алгоритмах

56

Генетические алгоритмы не пользуются большой популярностью в мире теории, но они представляют собой достаточно хорошо используемый метаэвристический метод (под метаэвристическим я подразумеваю технику, которая в целом применяется ко многим задачам, таким как отжиг, градиентный спуск и т. П.). Фактически, GA-подобный метод довольно эффективен для евклидовых TSP на практике.

Некоторые метаэвристики достаточно хорошо изучены теоретически: есть работа по локальному поиску и отжигу. У нас есть хорошее представление о том, как работает переменная оптимизация ( например, k-means ). Но, насколько я знаю, нет ничего действительно полезного о генетических алгоритмах.

Существует ли какая-либо солидная теория алгоритмизма / сложности о поведении генетических алгоритмов, в какой-либо форме, форме или форме? Хотя я слышал о таких вещах, как теория схем , я исключил это из обсуждения, основываясь на моем текущем понимании области, в которой он не особенно алгоритмичен (но я могу ошибаться здесь).

Суреш Венкат
источник
5
Для вдохновения см. Также с. 25–29 слайдов Пападимитриу FCRC 2007 .
Юкка Суомела
1
@Suresh: я бы предпочел видеть это как вопрос, а не как ответ ; Я был бы рад, если бы кто-то еще постарался объяснить более конкретно, каков результат, на который ссылается Пападимитриу на слайдах. :)
Юкка Суомела
1
Вот научно-популярное исполнение этой работы: tinyurl.com/2f39jrb
Суреш Венкат,
1
Я недавно прошел курс обучения GA, и моя шумиха вокруг GA уменьшилась, когда я узнал теорему об отсутствии бесплатного обеда: en.wikipedia.org/wiki/No_free_lunch_in_search_and_optimization
Alexandru
1
Александру, почему это? Должно быть совершенно очевидно, что почти любая техника будет лучше других в некоторых случаях и хуже в других. Вы действительно верите, что GA будет лучше всех?
Рафаэль

Ответы:

29

Ю. Рабинович, А. Вигдерсон. Методы ограничения скорости сходимости генетических алгоритмов. Алгоритмы случайных структур, вып. 14, нет 2, 111-138, 1999. (Также доступно на домашней странице Ави Вигдерсона )

Джошуа Грохов
источник
Похоже, первая ссылка больше не существует.
Джереми Кун
@JeremyKun: я только что попробовал это, и оно работало очень хорошо ... (Мне было бы грустно, если ссылка doi перестала существовать, нанося поражение одной из главных целей системы doi ...)
Джошуа Грохоу,
Я все еще получаю сообщение об ошибке «Страница не найдена» из библиотеки Wiley. Может ли это быть проблема форматирования / браузера?
Джереми Кун
@JeremyKun: может быть. Если у вас есть доступ к MathSciNet, попробуйте эту ссылку: ams.org/mathscinet-getitem?mr=1667317
Джошуа
Это не проблема, потому что ссылка на его домашнюю страницу работает. Я просто пытался помочь сделать этот ответ лучше :)
Джереми Кун
13

Взгляните на работу Бенджамина Доерра из группы «Алгоритмы» Макса Планка (MPI). Все дело в попытках внести доказуемый вклад в эволюционные алгоритмы.

В частности, Doerr отредактировал недавнюю книгу « Теория рандомизированной эвристики поиска».

Алекс Лопес-Ортиз
источник
1
Добавление ссылки улучшит этот ответ.
Дэйв Кларк
10

Помимо работы по моделированию отжига, Инго Вегенер получил некоторые теоретические результаты по эволюционным алгоритмам. Тезис его аспирантом Дирк Sudholt также стоит посмотреть.

Рахул Савани
источник
10

За последнее десятилетие был достигнут значительный прогресс в динамическом анализе эволюционных алгоритмов, оптимизации колоний муравьев и другой метаэвристике. Для опроса, пожалуйста, обратитесь к Oliveto et al. (2007) .

Пер Кристиан Лере
источник
Согласно Кристиану Лере, я только что посмотрел на вас и увидел интересующую вас область, поэтому я хотел бы спросить: как вы думаете, можно ли использовать аналогичные инструменты для анализа времени выполнения алгоритмов оптимизации колоний муравьев и вопросов типа «естественного алгоритма» Шазеля ( скорость сближения стая птиц)? Прямо сейчас, методы Chazelle кажутся островом для себя, и мне интересно, есть ли какая-то большая картина.
Аарон Стерлинг
2
Да, эти методы могут быть адаптированы для анализа времени выполнения ACO. Недавно я стал соавтором статьи о ACO для проблемы MinCut. Также, пожалуйста, посмотрите опрос Witt (2009): springerlink.com/content/3727x3255r1816g4 Я не знаю ни одной текущей ссылки этого исследования на работу Шазель, но это, безусловно, стоит изучить.
За Кристиана Лере
7

O(n4)

Джошуа Грохов
источник
1
эй, он вернулся :)
Суреш Венкат
6

Проверьте эти ссылки:

Лотар Шмитт, Теория генетических алгоритмов II: модели для генетических операторов по строково-тензорному представлению популяций и сходимости к глобальным оптимумам для произвольной функции пригодности при масштабировании

Шиу Инь Юн; Б. К. Чеунг, Оценки вероятности успеха классического генетического алгоритма на основе расстояния Хэмминга

Чанг Ти Дорея; Judinor A. Guerra Jr .; Рафаэль Моргадо; Андре Г.С. Перейра, Многоступенчатое марковское цепное моделирование генетического алгоритма и результаты сходимости

C. Домбри, взвешенная модель случайного блуждания. Приложение к генетическому алгоритму

Мухаммед Аль-Туркистани
источник
6

Существует также статья D. BHANDARI, CA MURTHY и SK PAL (к сожалению, недоступна онлайн), в которой дается доказательство сходимости при двух допущениях:

  • tt+1
  • Оператор мутации позволяет переключаться с любого решения на другое за конечное число шагов

Для доказательства сходимости используется модель цепей Маркова.

Вот ссылка: Динабандху Бхандари, Калифорния Мурти: Генетический алгоритм с элитарной моделью и его конвергенция. IJPRAI 10 (6): 731-747 (1996)

Ламин
источник
6

Математические модели генетических алгоритмов с конечными, но не унитарными популяциями громоздки и до сих пор оказались не поддающимися анализу для всех, кроме самых тривиальных фитнес-функций. Интересно, что если вы готовы принять аргумент симметрии , аргумент, другими словами, не представленный в рамках формальной аксиоматической системы, то вы получите захватывающий и красивый результат о вычислительной мощи генетических алгоритмов.

В частности, генетический алгоритм с равномерным пересечением способен оценивать огромное количество грубых разделов схемы неявно и параллельно, и может эффективно идентифицировать разделы, составляющие схемы которых имеют различные средние значения пригодности. Эта форма неявного параллелизма на самом деле более мощная, чем та, которая описана Джоном Холландом и его учениками, и в отличие от неявного параллелизма, описанного Холландом, может быть проверена экспериментально. (Смотрите этот пост в блоге.)

Следующая статья объясняет, как генетические алгоритмы с равномерным кроссовером объединяют неявный параллелизм в эвристику общего назначения, называемую гиперклимбированием :

Объяснение оптимизации в генетических алгоритмах с равномерным кроссовером . Появиться в трудах конференции «Основы генетических алгоритмов 2013».

(Отказ от ответственности: я автор статьи)

kburjorj
источник
это разумно / инновационно использовать случайный SAT в качестве эталона для GA и демонстрирует идею, которая, по-видимому, исследовалась немногими работами. Предположим, что GA может работать с любым произвольным классом сложности и, возможно, действительно является способом построения алгоритмов в «более высоком» классе сложности на основе результатов алгоритмов в «более низком» классе сложности ... тогда в некотором смысле это не совсем имеет смысл проанализировать «сложность» ГА, поскольку они могут
выходить за
5

Рафаэль Серф защитил кандидатскую диссертацию по генетическим алгоритмам в Монпелье под руководством Алена Берлине с математической точки зрения. Это довольно старый, но, вероятно, принадлежал бы любой библиографии о генетических алгоритмах.

Джереми
источник