В «Элементах статистического обучения» (2-е изд.), Стр. 63, авторы приводят следующие две формулировки проблемы регрессии гребня:
и
Утверждается, что они эквивалентны, и что между параметрами и существует взаимно-однозначное соответствие .
Казалось бы, первая формулировка является лагранжевой релаксацией второй. Однако у меня никогда не было интуитивного понимания того, как или почему работают лагранжевы релаксации.
Есть ли простой способ продемонстрировать, что две формулировки действительно эквивалентны? Если бы мне пришлось выбирать, я бы предпочел интуицию строгости.
Благодарю.
Ответы:
Соответствие легче всего показать с помощью теоремы об огибающей .
Я предполагаю, что это переписка Hastie et al. имеют в виду.
источник