“Pytorch L2 регуляризация” Ответ

Pytorch L2 регуляризация

# add l2 regularization to optimzer by just adding in a weight_decay 
optimizer = torch.optim.Adam(model.parameters(),lr=1e-4,weight_decay=1e-5)
Friendly Hawk

Регуляризация Pytorch

 loss = mse(pred, target)
 l1 = 0
 for p in net.parameters():
  l1 = l1 + p.abs().sum()
 loss = loss + lambda_l1 * l1
 loss.backward()
 optimizer.step()
Delightful Dormouse

Ответы похожие на “Pytorch L2 регуляризация”

Вопросы похожие на “Pytorch L2 регуляризация”

Смотреть популярные ответы по языку

Смотреть другие языки программирования