Потери шарнира можно определить с помощью а потерю журнала можно определить как log ( 1 + exp ( - y i w T x i ) )
У меня есть следующие вопросы:
Есть ли какие-либо недостатки потери шарнира (например, чувствительность к выбросам, как указано в http://www.unc.edu/~yfliu/papers/rsvm.pdf )?
Каковы различия, преимущества, недостатки одного по сравнению с другим?
источник
У @Firebug был хороший ответ (+1). На самом деле у меня был похожий вопрос здесь.
Каково влияние выбора различных функций потерь в классификации для приблизительной оценки 0-1?
Я просто хочу добавить еще одно важное преимущество логистических потерь: вероятностная интерпретация. Пример, можно найти здесь
В частности, логистическая регрессия является классической моделью в статистической литературе. (См., Что означает название «Логистическая регрессия» для именования.) Существует много важных концепций, связанных с логистическими потерями, таких как максимизация логарифмической вероятностной оценки, тестирование отношения правдоподобия, а также предположения о биномиальном. Вот некоторые связанные обсуждения.
Проверка отношения правдоподобия в R
Почему логистическая регрессия не называется логистической классификацией?
Есть ли предположение о логистической регрессии?
Разница между логит и пробит моделями
источник
Поскольку @ hxd1011 добавил преимущество перекрестной энтропии, я добавлю один его недостаток.
Перекрестная энтропийная ошибка является одной из многих мер расстояния между распределениями вероятностей, но один из недостатков этого метода состоит в том, что распределения с длинными хвостами могут быть плохо смоделированы с использованием слишком большого веса для маловероятных событий.
источник