Почему фурье-анализ булевых функций «работает»?

60

За эти годы я привык видеть много теорем TCS, доказанных с использованием дискретного анализа Фурье. Преобразование Уолша-Фурье (Адамара) полезно практически во всех подполях TCS, включая тестирование свойств, псевдослучайность, сложность связи и квантовые вычисления.

Хотя мне стало удобно использовать булевский анализ Фурье как очень полезный инструмент, когда я решаю проблему, и даже при том, что у меня есть довольно хорошая догадка, для каких случаев использование анализа Фурье, вероятно, даст некоторые хорошие результаты; Я должен признать, что я не совсем уверен, что делает такое изменение основ настолько полезным.

У кого-нибудь есть интуиция, почему анализ Фурье так плодотворен при изучении TCS? Почему так много, казалось бы, трудных проблем решается написанием расширения Фурье и выполнением некоторых манипуляций?

Примечание: моя главная интуиция, до сих пор скудная, - это то, что мы достаточно хорошо понимаем, как ведут себя полиномы, и что преобразование Фурье - это естественный способ рассматривать функцию как полилинейный полином. Но почему именно эта база? что же такого уникального в базе паритетов?

Кристоффер Арнсфельт Хансен
источник
8
Пейджинг @ Райан-Одоннелл
Суреш Венкат
3
Одна идея, возникшая в 90-х годах, заключается в том, что, возможно, будет работать и другая основа функций, возможно, имитирующая успех вейвлетов в классическом гармоническом анализе. Но я не видел, чтобы эту идею убедили.
Гил Калай

Ответы:

63

f:{0,1}nRσww{0,1}nf(x)f(x+w), Во многих вопросах TCS существует основополагающая необходимость проанализировать влияние, которое такие операторы оказывают на определенные функции.

Теперь дело в том, что базис Фурье является базисом, который диагонализирует все эти операторы одновременно, что значительно упрощает анализ этих операторов. В более общем смысле базис Фурье диагонализирует оператор свертки, что также лежит в основе многих из этих вопросов. Таким образом, анализ Фурье, вероятно, будет эффективным, когда нужно проанализировать эти операторы.

f:GCGσhhGf(x)f(xh)

Или Меир
источник
6
это отличный ответ.
Суреш Венкат
2
(f(x),f(x+w1),f(x+w2),f(x+w1+w2))
3
Что вы подразумеваете под «диагонализацией оператора»?
Джон Мёллер
10
f
1
Интересно, что даже приложения к обучению хунт могут быть поняты с точки зрения операторов свертки: хунта равна своему изображению под оператором, который усредняется по входным данным, которые не согласуются по нерелевантным координатам. этот оператор является оператором свертки и редок в области Фурье. это общая тема: когда функция «соотносится с собой», она требует подхода, основанного на Фурье
Сашо Николов
6

Здесь может быть другой взгляд на этот вопрос.

Предполагая, что псевдобулева функция k-ограничена, полиномиальное представление Уолша функции можно разложить на k подфункций. Все линейные члены собраны в одну подфункцию, все парные взаимодействия в одну подфункцию, затем 3-сторонние взаимодействия и т. Д.

Каждая из этих подфункций является «элементарным ландшафтом» и, таким образом, каждая из подфункций является собственным вектором матрицы смежности Лапласа (т. Е. Окрестности расстояния Хэмминга 1). Каждая подфункция имеет соответствующее «волновое уравнение» типа, встречающегося во всех элементарных ландшафтах. Кроме теперь есть k волновых уравнений, которые действуют в комбинации.

Знание волновых уравнений позволяет довольно точно статистически охарактеризовать соответствующее пространство поиска. Вы можете вычислить среднее и дисперсию и наклонить произвольные (экспоненциально большие) шары Хэмминга и произвольные гиперплоскости пространства поиска.

См. Работу Питера Стадлера «Элементарные пейзажи».

Эндрю Саттон и я (Даррелл Уитли) работали над использованием этих методов для понимания и улучшения алгоритмов локального поиска для псевдобулевой оптимизации. Вы можете использовать полиномы Уолша для автоматической идентификации улучшающих ходов для локальных алгоритмов поиска. Нет необходимости случайным образом перечислять окрестности пространства поиска. Анализ Уолша может прямо сказать вам, где находятся улучшения.

Даррелл Уитли
источник
4
Не могли бы вы дать некоторые указатели на работу, которую вы цитируете?
Андрас Саламон
2

хорошего ответа на этот вопрос, вероятно, еще не существует, потому что это относительно молодая и очень активная область исследований. например, всеобъемлющая книга Инго Вегенерса по булевым функциям 1987 года не содержит ничего по этому вопросу (кроме анализа сложности схемы DFT).

Простая интуиция или гипотеза заключается в том, что большие коэффициенты Фурье более высокого порядка указывают на наличие подфункций, которые должны учитывать множество входных переменных и, следовательно, требовать много вентилей. т.е. разложение Фурье, по-видимому, является естественным способом количественного измерения твердости булевой функции. Я не видел этого прямо доказанным, но думаю, что это намекает на многие результаты. Например, нижняя граница Храпченкоса может быть связана с коэффициентами Фурье. [1]

другая грубая аналогия может быть заимствована из EE или других областей техники до некоторой степени, где анализ Фурье широко используется. это часто используется для фильтров EE / обработки сигналов . Коэффициенты Фурье представляют собой конкретную «полосу» фильтра. Существует также история о том, что «шум» проявляется в определенных диапазонах частот, например, в низких или высоких частотах. в CS аналогия с «шумом» - это «случайность», но из многих исследований ясно, что (например, [4]) видно, что случайность в основном такая же, как и сложность. (в некоторых случаях «энтропия» также проявляется в том же контексте.) Анализ Фурье, по-видимому, подходит для изучения «шума» даже в настройках CS. [2]

другая интуиция или картина проистекают из теории голосования / выбора. [2,3] полезно проанализировать логические функции как имеющие подкомпоненты, которые «голосуют» и влияют на результат. т.е. анализ голосования является своего рода системой декомпозиции функций. это также использует некоторую теорию голосования, которая достигла высот математического анализа и, по-видимому, предшествовала использованию большого анализа Фурье булевых функций.

Кроме того, концепция симметрии , по-видимому, имеет первостепенное значение в анализе Фурье. чем более «симметрична» функция, тем больше коэффициент Фурье компенсируется, а также тем «проще» вычислить функцию. но также чем более «случайная» и, следовательно, более сложная функция, тем меньше коэффициенты компенсируются. другими словами, симметрия и простота, и наоборот, асимметрия и сложность в функции, кажется, скоординированы таким образом, который может измерить анализ Фурье.

[1] Об анализе Фурье булевых функций Бернаскони, Коденотти, Саймона.

[2] Краткое введение в анализ Фурье на булевом кубе (2008) Де Вольфа

[3] Некоторые темы по анализу булевых функций О'Доннелла

[4] Естественные доказательства Разборова и Рудича

ВЗН
источник
3
см. также онлайн-книгу « Анализ булевых функций » О'Доннелла
vzn
Гипотеза о сложности логического fn, отраженного в «спектре мощности» над коэффициентами Фурье, - естественное продолжение известных результатов в работе Линиала Мансура Нисана, Контуры с постоянной глубиной, преобразование Фурье и обучаемость . аннотация: «основной результат состоит в том, что булево fn AC ^ 0 имеет большую часть своего« спектра мощности »на коэффициентах низкого порядка»
vzn
2
есть хороший обзор анализа Фурье в главе 2 книги юкнаса, сложности булевых функций, достижений и границ , который указывает на то, что коэффициенты Фурье коррелируют с функциями четности, вычисленными по подмножествам входных переменных.
ВЗН
2
Почему этот ответ так сильно опущен?
user834