Я внедряю перекрестную проверку и вычисляю метрики ошибок, такие как RMSE, , MAE, MSE и т. Д.
Могут ли RMSE и MAE иметь одинаковое значение?
cross-validation
rms
mae
Perl
источник
источник
Ответы:
Да, в теории. Самый простой случай, который я могу себе представить, - это набор данных, в котором все ошибки прогнозирования (то есть невязки) равны 1. RMSE и MAE будут возвращать идентичные значения 1. Можно также построить другие сценарии, но ни один из них не представляется вероятным.±
РЕДАКТИРОВАТЬ: Спасибо @DilipSarwate за указание (подробно изложено @ user20160 в их превосходном ответе), что этот результат возможен тогда и только тогда, когда абсолютные значения всех ошибок прогнозирования идентичны. Другими словами, в моем примере нет ничего особенного в значении 1; любой другой номер будет работать вместо 1.±
источник
Средняя абсолютная ошибка (MAE) может равняться среднеквадратичной ошибке (MSE) или среднеквадратичной ошибке (RMSE) при определенных условиях, которые я покажу ниже. Эти условия вряд ли возникнут на практике.
прелиминарии
Пустьря= | Yя- у^я| обозначим абсолютное значение невязки для я й точки данных, и пусть г = [ гя, … , ГN]T - вектор, содержащий абсолютные невязки для всех N точек в наборе данных. Обозначение 1⃗ обозначает вектор единиц n × 1 , MAE, MSE и RMSE можно записать в виде:
MSE
Установка MSE равной MAE и перестановка дает:
MSE и MAE равны для всех наборов данных, где абсолютные невязки решают вышеприведенное уравнение. Два очевидных решения:г = 0⃗ (нулевая ошибка) и г = 1⃗ (все остатки равны ± 1 , как упоминалось в mkt). Но существует бесконечно много решений.
Мы можем интерпретировать уравнение( 2 ) геометрически следующим образом: LHS является точечным произведением г - 1⃗ и р . Произведение с нулевой точкой подразумевает ортогональность. Таким образом, MSE и MAE равны, если вычитание 1 из каждого абсолютного остатка дает вектор, который ортогонален исходным абсолютным остаткам.
Кроме того, заполнив квадрат, уравнение( 2 ) можно переписать так:
Это уравнение описываетN мерную сферу с центром в [ 12, … , 12]T с радиусом12N--√ . MSE и MAE равны тогда и только тогда, когда абсолютные остатки лежат на поверхности этой гиперсферы.
RMSE
Установка RMSE равной MAE и перестановка дает:
гдея - единичная матрица. Множество решений является нулевым пространством из A ; то есть множество всех р таких, что A r = 0⃗ . Чтобы найти нулевое пространство, обратите внимание, что A - это матрица n × n с диагональными элементами, равными n - 1 и всеми другими элементами, равными - 1 . Утверждение A r = 0⃗ соответствует системе уравнений:
Или, переставляя вещи:
То есть каждый элементря должен равняться среднему значению других элементов. Единственный способ удовлетворить это требование - чтобы все элементы были равны (этот результат также может быть получен при рассмотрении собственного разложения A ). Следовательно, набор решений состоит из всех неотрицательных векторов с одинаковыми элементами:
Таким образом, RMSE и MAE равны тогда и только тогда, когда абсолютные значения остатков равны для всех точек данных.
источник