Есть ли вероятностное расстояние, которое сохраняет все свойства метрики?

13

Изучая расстояние Кульбака – Лейблера, мы очень быстро узнаем две вещи: оно не учитывает ни неравенство треугольника, ни симметрию, требуемые свойства метрики.

Мой вопрос заключается в том, есть ли метрика функций плотности вероятности, которые удовлетворяют всем ограничениям метрики .

distributions distance metric Хорхе Лейтао
источник
Сосредоточиться на плотности вероятности означает сосредоточиться на «неправильном» объекте. Что касается метрик, то есть «классические», например, Леви (и связанная с ним метрика Кая Фана по случайным переменным), Вассерштейн и те, кто ближе по духу к KL, например, дивергенция Дженсена-Шеннона . Хотя в основном забывают исторически, к сведению , что в оригинальной KL бумаге , то расхождение KL действительно симметрична (хотя до сих пор не является метрикой).
кардинал
1
@ cardinal, ну, я не так много в этой области, не могли бы вы предложить "правильный" объект?
Хорхе Лейтао
2
JC: Извините, поле для комментариев стало слишком маленьким для всего, что я пытался вписать в него. Я должен был разработать. Кумулятивная функция распределения оказывается более общим и естественным объектом изучения. :-)
кардинал
@ cardinal почему? ;)
Хорхе Лейтао

Ответы:

19

L2

Джон Цзян
источник
2
Это хороший документ, особенно рисунок 1. Я сохраняю его копию для дальнейшего использования.
Пэт
1

Существуют некоторые модификации дивергенции KL, которые заставляют ее приобретать некоторые метрические свойства (но не все).

Например, расхождение Джеффри изменяет расхождение KL, чтобы сделать его симметричным.

Есть некоторые особые случаи, см. [1]: «К сожалению, традиционные меры, основанные на дивергенции Кульбака – Лейблера (KL) и расстоянии Бхаттачарьи, не удовлетворяют всем метрическим аксиомам, необходимым для многих алгоритмов. В этой статье мы предлагаем модификацию для KL дивергенция и расстояние Бхаттачарьи для многомерных гауссовых плотностей, которые преобразуют две меры в метрики расстояния ".

[1] К. Абу-Мустафа и Ф. Ферри, «Замечание о метрических свойствах некоторых мер расходимости: случай Гаусса», JMLR: материалы семинаров и конференций, 25: 1–15, 2012.

user29652
источник
0

Я думаю, что ответ на вопрос возможен. Потому что недавно, в 2017 году Р. Фархадиан показал, что на эвристическом подмножестве целых чисел существует вероятность того, что это метрика. для его работы, смотрите следующую ссылку: http://journals.univ-danubius.ro/index.php/oeconomica/article/view/4010

Миннесота
источник