Расчет расхождения Дженсена-Шеннона для 3-х вероятных распределений: это нормально?

12

Я хотел бы рассчитать дивергенцию Дженсена-Шеннона для следующих трех распределений. Является ли приведенный ниже расчет правильным? (Я следовал формуле JSD из Википедии ):

P1  a:1/2  b:1/2    c:0
P2  a:0    b:1/10   c:9/10
P3  a:1/3  b:1/3    c:1/3
All distributions have equal weights, ie 1/3.

JSD(P1, P2, P3) = H[(1/6, 1/6, 0) + (0, 1/30, 9/30) + (1/9,1/9,1/9)] - 
                 [1/3*H[(1/2,1/2,0)] + 1/3*H[(0,1/10,9/10)] + 1/3*H[(1/3,1/3,1/3)]]

JSD(P1, P2, P3) = H[(1/6, 1/5, 9/30)] - [0 + 1/3*0.693 + 0] = 1.098-0.693 = 0.867

Заранее спасибо...

РЕДАКТИРОВАТЬ Вот простой грязный код Python, который также рассчитывает это:

    def entropy(prob_dist, base=math.e):
        return -sum([p * math.log(p,base) for p in prob_dist if p != 0])

    def jsd(prob_dists, base=math.e):
        weight = 1/len(prob_dists) #all same weight
        js_left = [0,0,0]
        js_right = 0    
        for pd in prob_dists:
            js_left[0] += pd[0]*weight
            js_left[1] += pd[1]*weight
            js_left[2] += pd[2]*weight
            js_right += weight*entropy(pd,base)
        return entropy(js_left)-js_right

usage: jsd([[1/2,1/2,0],[0,1/10,9/10],[1/3,1/3,1/3]])
kanzen_master
источник
2
Кстати, хороший код на Python!
gui11aume

Ответы:

13

В распределении смеси есть ошибка. Это должно быть вместо которое не суммирует до 1. Энтропия (с натуральным логарифмом) для этого равна 1,084503 , Ваши другие условия энтропии неверны.(5/18,28/90,37/90)(1/6,1/5,9/30)

Я приведу детали одного вычисления:

ЧАС(1/2,1/2,0)знак равно-1/2*журнал(1/2)-1/2*журнал(1/2)+0знак равно0.6931472

Аналогичным образом, другими терминами являются 0.325083 и 1.098612. Таким образом, окончательный результат равен 1,084503 - (0,6931472 + 0,325083 + 1,098612) / 3 = 0,378889.

gui11aume
источник
3
h <- function(x) {h <- function(x) {y <- x[x > 0]; -sum(y * log(y))}; jsd <- function(p,q) {h(q %*% p) - q %*% apply(p, 2, h)}pqp <- matrix(c(1/2,1/2,0, 0,1/10,9/10, 1/3,1/3,1/3), ncol=3, byrow=TRUE); q <- c(1/3,1/3,1/3); jsd(p,q)0.378889334/1551/92-13/457-14/4537-37/90
1
Не так грязно ... ;-)
gui11aume
4
(1) Повторите математику. (2) Энтропия может быть измерена с использованием любого логарифма, который вам нравится, если вы последовательны. Естественные, обычные и базовые 2 журналы все обычные. (3) Это действительно среднее расхождение между распределениями и их средним. Если вы думаете о каждом распределении как о точке, они образуют облако. Вы смотрите на среднее «расстояние» между центром облака и его точками, вроде среднего радиуса. Интуитивно он измеряет размер облака.
whuber
1
@ Легенда, я думаю, ты прав. Я не проверил достаточно после того, как обнаружил, что один результат согласуется с ответом, который я получил другим способом (с Mathematica ).
whuber
1
@dmck В моем комментарии действительно есть опечатки: (1) фраза h <- function(x) {была вставлена ​​дважды. Просто удалите его: все остальное работает и дает результаты, которые я цитирую. Затем модифицировать , apply(p, 2, h)чтобы , apply(p, 1, h)как отметил в комментарии по Легенде .
whuber
6

Python:

import numpy as np
# @author: jonathanfriedman

def jsd(x,y): #Jensen-shannon divergence
    import warnings
    warnings.filterwarnings("ignore", category = RuntimeWarning)
    x = np.array(x)
    y = np.array(y)
    d1 = x*np.log2(2*x/(x+y))
    d2 = y*np.log2(2*y/(x+y))
    d1[np.isnan(d1)] = 0
    d2[np.isnan(d2)] = 0
    d = 0.5*np.sum(d1+d2)    
    return d

jsd(np.array([0.5,0.5,0]),np.array([0,0.1,0.9]))

Джава:

/**
 * Returns the Jensen-Shannon divergence.
 */
public static double jensenShannonDivergence(final double[] p1,
        final double[] p2) {
    assert (p1.length == p2.length);
    double[] average = new double[p1.length];
    for (int i = 0; i < p1.length; ++i) {
        average[i] += (p1[i] + p2[i]) / 2;
    }
    return (klDivergence(p1, average) + klDivergence(p2, average)) / 2;
}

public static final double log2 = Math.log(2);

/**
 * Returns the KL divergence, K(p1 || p2).
 * 
 * The log is w.r.t. base 2.
 * <p>
 * *Note*: If any value in <tt>p2</tt> is <tt>0.0</tt> then the
 * KL-divergence is <tt>infinite</tt>. Limin changes it to zero instead of
 * infinite.
 */
public static double klDivergence(final double[] p1, final double[] p2) {
    double klDiv = 0.0;
    for (int i = 0; i < p1.length; ++i) {
        if (p1[i] == 0) {
            continue;
        }
        if (p2[i] == 0.0) {
            continue;
        } // Limin

        klDiv += p1[i] * Math.log(p1[i] / p2[i]);
    }
    return klDiv / log2; // moved this division out of the loop -DM
}
Renaud
источник
0

Вы дали ссылку на Википедию. Здесь я приведу полное выражение для дивергенции Дженсена-Шеннона с несколькими вероятностными распределениями:

JSмеTряс(п1,,,,,пм)знак равноЧАС(п1+,,,+пмм)-ΣJзнак равно1мЧАС(пJ)м

Оригинальный вопрос был опубликован без математического выражения множественной JS-дивергенции, что приводит к путанице в понимании предоставленных вычислений. Кроме того, weightбыл использован термин, который снова вызывает путаницу в том, как вы выбираете подходящие веса для умножения. Выше выражение проясняет эти заблуждения. Как ясно из приведенного выше выражения, веса автоматически выбираются в зависимости от количества распределения.

Привет, мир
источник
Это автоматически помечается как низкое качество, возможно потому, что оно очень короткое. В настоящее время это скорее комментарий, чем ответ по нашим стандартам. Вы можете расширить это? Мы также можем превратить это в комментарий.
gung - Восстановить Монику
Это звучит как поясняющий комментарий, а не как ответ. Должно ли это быть изменение в вопросе?
gung - Восстановить Монику
@ gung, изменил мой ответ. Надеюсь, это поможет.
Привет, мир,
0

Scala-версия JS-расходимости двух последовательностей произвольной длины:

def entropy(dist: WrappedArray[Double]) = -(dist.filter(_ != 0.0).map(i => i * Math.log(i)).sum)


val jsDivergence = (dist1: WrappedArray[Double], dist2: WrappedArray[Double]) => {
    val weights = 0.5 //since we are considering inly two sequences
    val left = dist1.zip(dist2).map(x => x._1 * weights + x._2 * weights)
    // println(left)
    // println(entropy(left))
    val right = (entropy(dist1) * weights) + (entropy(dist2) * weights)
    // println(right)
    entropy(left) - right

}

jsDivergence(Array(0.5,0.5,0), Array(0,0.1,0.9))

res0: Double = 0.557978817900054

Перепроверьте этот ответ с кодом в разделе редактирования вопроса:

jsd([np.array([0.5,0.5,0]), np.array([0,0.1,0.9])])
0.55797881790005399
Mageswaran
источник
0

Общая версия для n распределений вероятностей на языке python, основанная на формуле Википедии и комментариях в этом посте, с вектором весов ( pi ) в качестве параметра и пользовательской базой журналов :

import numpy as np
from scipy.stats import entropy as H


def JSD(prob_distributions, weights, logbase=2):
    # left term: entropy of mixture
    wprobs = weights * prob_distributions
    mixture = wprobs.sum(axis=0)
    entropy_of_mixture = H(mixture, base=logbase)

    # right term: sum of entropies
    entropies = np.array([H(P_i, base=logbase) for P_i in prob_distributions])
    wentropies = weights * entropies
    # wentropies = np.dot(weights, entropies)
    sum_of_entropies = wentropies.sum()

    divergence = entropy_of_mixture - sum_of_entropies
    return(divergence)

# From the original example with three distributions:
P_1 = np.array([1/2, 1/2, 0])
P_2 = np.array([0, 1/10, 9/10])
P_3 = np.array([1/3, 1/3, 1/3])

prob_distributions = np.array([P_1, P_2, P_3])
n = len(prob_distributions)
weights = np.empty(n)
weights.fill(1/n)

print(JSD(prob_distributions, weights))

+0,546621319446

alemol
источник