В настоящее время я изучаю регрессию гребня, и меня немного смущает вопрос о наказании за более сложные модели (или определение более сложной модели).
Из того, что я понимаю, сложность модели не обязательно соотносится с полиномиальным порядком. Итак: - более сложная модель, чем:
И я знаю, что цель регуляризации состоит в том, чтобы поддерживать сложность модели на низком уровне, например, у нас есть полином 5-го порядка
Чем больше параметров, тем лучше.
Но что я не понимаю, так это если полиномиал того же порядка, почему более низкие значения параметров штрафуются меньше? Так почему бы:
Спасибо!
источник