Я знаю, что общепринятой практикой является стандартизация функций для регрессии гребня и лассо, однако, будет ли когда-либо более практичным нормализовать функции по шкале (0,1) в качестве альтернативы стандартизации z-показателя для этих методов регрессии?
Если вы примените нормализацию (сожмите в [0,1]), у вас будет мера относительной важности переменной, но это изменит масштаб ваших переменных, и вы потеряете всю интерпретируемость модели. Преимущество стандартизации в том , что вы можете интерпретировать модели , как вы бы с МНК (это уже уже ответили unregularised здесь ).
Нормализация очень важна для методов с регуляризацией. Это связано с тем, что масштаб переменных влияет на степень регуляризации, применимый к конкретной переменной.
Например, предположим, что одна переменная находится в очень большом масштабе, скажем, порядка миллионов, а другая переменная от 0 до 1. Тогда мы можем думать, что регуляризация будет мало влиять на первую переменную.
Как и в случае нормализации, нормализации до 0 к 1 или стандартизации функций не имеет большого значения.
источник