http://www.deeplearningbook.org/contents/ml.html Page 116 объясняет ошибку Байеса, как показано ниже
Идеальная модель - это оракул, который просто знает истинное распределение вероятностей, которое генерирует данные. Даже такая модель по-прежнему будет вызывать некоторые ошибки во многих проблемах, потому что в распределении все еще может быть шум. В случае контролируемого обучения отображение от x к y может быть стохастическим по своей природе, или y может быть детерминированной функцией, которая включает другие переменные, помимо включенных в x. Ошибка, вызванная предсказаниями оракула из истинного распределения p (x, y), называется байесовской ошибкой.
Вопросов
- Пожалуйста, объясните ошибку Байеса интуитивно?
- Чем он отличается от неснижаемой ошибки?
- Могу ли я сказать, общая ошибка = смещение + дисперсия + ошибка Байеса?
- Что означает «у может быть стохастическим по своей сути»?
источник