Я пытаюсь обновить / изменить параметры модели нейронной сети, а затем сделать прямой проход обновленной нейронной сети в граф вычислений (независимо от того, сколько изменений / обновлений мы делаем).
Я попробовал эту идею, но всякий раз, когда я делаю это, pytorch устанавливает мои обновленные тензоры (внутри модели) как листы, что убивает поток градиентов в сети, которые я хочу получать градиенты. Это убивает поток градиентов, потому что листовые узлы не являются частью вычислительного графа так, как я хочу (поскольку они не являются действительно листовыми).
Я пробовал несколько вещей, но ничего не получается. Я создал пустой код, который печатает градиенты сетей, которые я хочу иметь градиенты:
import torch
import torch.nn as nn
import copy
from collections import OrderedDict
# img = torch.randn([8,3,32,32])
# targets = torch.LongTensor([1, 2, 0, 6, 2, 9, 4, 9])
# img = torch.randn([1,3,32,32])
# targets = torch.LongTensor([1])
x = torch.randn(1)
target = 12.0*x**2
criterion = nn.CrossEntropyLoss()
#loss_net = nn.Sequential(OrderedDict([('conv0',nn.Conv2d(in_channels=3,out_channels=10,kernel_size=32))]))
loss_net = nn.Sequential(OrderedDict([('fc0', nn.Linear(in_features=1,out_features=1))]))
hidden = torch.randn(size=(1,1),requires_grad=True)
updater_net = nn.Sequential(OrderedDict([('fc0',nn.Linear(in_features=1,out_features=1))]))
print(f'updater_net.fc0.weight.is_leaf = {updater_net.fc0.weight.is_leaf}')
#
nb_updates = 2
for i in range(nb_updates):
print(f'i = {i}')
new_params = copy.deepcopy( loss_net.state_dict() )
## w^<t> := f(w^<t-1>,delta^<t-1>)
for (name, w) in loss_net.named_parameters():
print(f'name = {name}')
print(w.size())
hidden = updater_net(hidden).view(1)
print(hidden.size())
#delta = ((hidden**2)*w/2)
delta = w + hidden
wt = w + delta
print(wt.size())
new_params[name] = wt
#del loss_net.fc0.weight
#setattr(loss_net.fc0, 'weight', nn.Parameter( wt ))
#setattr(loss_net.fc0, 'weight', wt)
#loss_net.fc0.weight = wt
#loss_net.fc0.weight = nn.Parameter( wt )
##
loss_net.load_state_dict(new_params)
#
print()
print(f'updater_net.fc0.weight.is_leaf = {updater_net.fc0.weight.is_leaf}')
outputs = loss_net(x)
loss_val = 0.5*(target - outputs)**2
loss_val.backward()
print()
print(f'-- params that dont matter if they have gradients --')
print(f'loss_net.grad = {loss_net.fc0.weight.grad}')
print('-- params we want to have gradients --')
print(f'hidden.grad = {hidden.grad}')
print(f'updater_net.fc0.weight.grad = {updater_net.fc0.weight.grad}')
print(f'updater_net.fc0.bias.grad = {updater_net.fc0.bias.grad}')
если кто-нибудь знает, как это сделать, пожалуйста, дайте мне пинг ... Я устанавливаю количество обновлений, равное 2, потому что операция обновления должна быть в графе вычислений произвольное число раз ... поэтому она ДОЛЖНА работать для 2.
Сильно связанный пост:
- SO: Как можно иметь параметры в модели pytorch, чтобы они не были листами и находились в графе вычислений?
- Форум pytorch: https://discuss.pytorch.org/t/how-does-one-have-the-parameters-of-a-model-not-be-leafs/70076
Перекрестная размещены:
источник
backward
? А именноretain_graph=True
и / илиcreate_graph=True
?Ответы:
НЕ РАБОТАЕТ ПРАВИЛЬНО, потому что названные модули параметров удалены.
Кажется, это работает:
вывод:
Благодарность: могучий albanD от команды pytorch: https://discuss.pytorch.org/t/how-does-one-have-the-parameters-of-a-model-not-be-leafs/70076/9?u= Пиноккио
источник
Вы должны попытаться сохранить те же самые тензоры, а не создавать новые.
Перейти к их
data
атрибуту и установить новое значение.Это сработало для меня в этом вопросе: Как назначить новое значение переменной Pytorch, не нарушая обратное распространение?
источник