Что такое «метод передачи сообщений»?

У меня есть смутное представление о том, что такое метод передачи сообщений: алгоритм, который строит аппроксимацию к распределению путем итеративного построения аппроксимаций каждого из факторов распределения, условных для всех аппроксимаций всех других факторов.

Я полагаю, что оба являются примерами вариационной передачи сообщений и распространения ожиданий . Что алгоритм передачи сообщений более четко / правильно? Рекомендации приветствуются.

Поскольку вы просите ссылки, я могу порекомендовать главу 16 из книги Дэвида Маккея Information Theory, Inference, and Learning Algorithms. (вам не нужно читать предыдущие 15 глав, чтобы понять главу 16). Книга бесплатна для скачивания с сайта автора (с разрешения издателя).

Для интересного примера, проверьте тезис Джона Винна . Использует алгоритм передачи сообщений для универсального обучения ансамблям, позволяя легко конструировать задачи вывода, такие как ICA и PCA.

Может быть, статья о распространении веры будет полезна.

В статье дается описание из двух пунктов, как «сообщения» передаются по краям в фактор-графе. Эта «передача сообщений» может быть сделана для любого графика. Для деревьев алгоритм является точным в том смысле, что он дает вычисление искомых маргинальных и совместных распределений узлов в дереве. Итерации алгоритма для общих графов являются попытками произвести аппроксимации желаемых краевых или совместных распределений.