Какова цель характерных функций?

37

Я надеюсь, что кто-то может объяснить, с точки зрения непрофессионала, что такое характерная функция и как она используется на практике. Я читал, что это преобразование Фурье в PDF, так что, думаю, я знаю, что это такое, но я до сих пор не понимаю его цели. Если бы кто-то мог предоставить интуитивное описание его цели и, возможно, пример того, как он обычно используется, это было бы здорово!

Еще одно последнее замечание: я видел страницу в Википедии , но, видимо, слишком плотен, чтобы понять, что происходит. То, что я ищу, - это объяснение, которое может понять кто-то, не погруженный в чудеса теории вероятностей, скажем, специалист по информатике.

Ник
источник

Ответы:

47

Когда-то люди использовали таблицы логарифмов, чтобы умножать числа быстрее. Почему это? Логарифмы преобразовывают умножение в сложение, так как . Таким образом, чтобы умножить два больших числа a и b , вы нашли их логарифмы, добавили логарифмы z = log ( a ) + log ( b ) , а затем посмотрели exp ( z ) в другой таблице.log(ab)=log(a)+log(b)abz=log(a)+log(b)exp(z)

Теперь характеристические функции делают то же самое для распределения вероятностей. Предположим, что имеет распределение f, а Y имеет распределение g , а X и Y независимы. Тогда распределение X + Y является сверткой из е и г , е * г .XfYgXYX+Yеgfg

Теперь характеристическая функция является аналогом «трюка с логарифмической таблицей» для свертки, поскольку если является характеристической функцией f , то имеет место следующее соотношение:ϕff

ϕfϕg=ϕfg

Кроме того, также как и в случае логарифмов, легко найти обратную характеристическую функцию: учитывая где h - неизвестная плотность, мы можем получить h с помощью обратного преобразования Фурье ϕ h .ϕhhhϕh

Характеристическая функция преобразует свертку в умножение для функций плотности так же, как логарифмы преобразуют умножение в сложение для чисел. Оба преобразования преобразуют относительно сложную операцию в относительно простую.

charles.y.zheng
источник
22
Другие заслуживающие упоминания пункты: (а) восстановление моментов посредством дифференцирования, (б) тот факт, что все распределения имеют характеристические функции (по сравнению с функциями, генерирующими моменты), (в) (по существу) однозначное соответствие между распределениями и их характеристические функции, и (d) тот факт, что многие относительно общие распределения имеют известные характеристические функции, но не имеют известного выражения для плотности (например, устойчивые распределения Леви).
кардинал
3
Хорошие комментарии, @cardinal. Пожалуйста, рассмотрите возможность превращения их в реальный ответ.
whuber
Для тех из вас, кто понимает эту тему, связано ли это вообще с характеристическими уравнениями, используемыми с рекуррентными соотношениями (то есть в «Конкретной математике» Кнута)? Я предполагаю, что они очень разные и разделяют слово «характеристика» только случайно, но я подумал, что спросить.
Уэйн
@ Уэйн, ты должен опубликовать это как вопрос. Я думаю, что существует тесная связь: характеристические функции возникают из преобразования Фурье, которое является преобразованием Гельфанда, связанным с распределениями на вещественной прямой. Характеристическое уравнение рекуррентного отношения, кажется, возникает из функции, генерирующей вероятность, которая является преобразованием Гельфанда, связанным с натуральными числами. Переменные в рекуррентных отношениях можно рассматривать как принимающие значения на дискретных временных шагах, то есть натуральных числах.
канторхед
@ Уэйн ... Так что я думаю, что оператор, который принимает переменную в рекуррентном отношении к ее характеристическому уравнению, может рассматриваться как «преобразование Фурье», связанное с распределениями на натуральных числах. Я искал и не нашел этот вопрос, но мне было бы очень интересно увидеть ответы, если бы вы опубликовали его.
канторхед
6

@ charles.y.zheng и @cardinal дали очень хорошие ответы, я добавлю свои два цента. Да, характеристическая функция может выглядеть как ненужное усложнение, но это мощный инструмент, который может дать вам результаты. Если вы пытаетесь что-то доказать с помощью кумулятивной функции распределения, всегда желательно проверить, нельзя ли получить результат с помощью характеристической функции. Это иногда дает очень короткие доказательства.

Хотя поначалу характеристическая функция выглядит не интуитивно понятным способом работы с распределениями вероятностей, есть несколько мощных результатов, непосредственно связанных с ней, из которых следует, что вы не можете отбросить эту концепцию как простое математическое развлечение. Например, мой любимый результат в теории вероятностей состоит в том, что любое бесконечно делимое распределение имеет единственное представление Леви-Хинчина . В сочетании с тем фактом, что бесконечно делимые распределения являются единственно возможным распределением для пределов сумм независимых случайных величин (исключая причудливые случаи), это глубокий результат, с помощью которого выводится центральная предельная теорема.

mpiktas
источник
3

Назначение характеристических функций состоит в том, что они могут использоваться для получения свойств распределений в теории вероятностей. Если вас не интересуют такие деривации, вам не нужно изучать характерные функции.

универсальный
источник
Полагаю, меня могут заинтересовать такие деривации - я просто не совсем понимаю, зачем нам переходить к характеристической функции? Почему это проще, чем иметь дело непосредственно с pdf / cdf?
Ник
1
Нам не нужно их использовать. Я сказал только, что они могут быть использованы. Иногда они дают более быстрый вывод, иногда они вообще не помогают. То, является ли деривация «проще», зависит от того, что вы уже знаете - если вы еще не знаете о характерных функциях, это не будет легче. В некоторых случаях функции, генерирующие моменты, предоставляют альтернативу и имеют более прямую интерпретацию.
остановка
2

Характеристическая функция - это преобразование Фурье функции плотности распределения. Если у вас есть интуиция относительно преобразований Фурье, этот факт может быть поучительным. Общая история преобразований Фурье заключается в том, что они описывают функцию «в частотном пространстве». Поскольку плотность вероятности обычно унимодальна (по крайней мере, в реальном мире или в моделях, сделанных для реального мира), это не кажется ужасно интересным.

shabbychef
источник
1
Примечание . Потенциальный редактор утверждает, что «характеристическая функция - это обратное преобразование Фурье».
gung - Восстановить Монику
-1

Преобразование Фурье является разложением функции (непериодической) по ее частотам. Интерпретация для плотностей?

Преобразование Фурье является непрерывной версией ряда Фурье, поскольку никакая плотность не является периодической, а нет выражения, подобного «характеристическому ряду».

Нико Шмит
источник