PyTorchでのモデルの重み正則化方法は何ですか?
PyTorchでは、モデルの重みパラメータを取得するためにtorch.nn.Moduleクラスのparameters()メソッドを使用し、その後、これらのパラメータに制約を加えるために正則化方法を使用することができます。以下は、モデルの重みをL2正則化する方法を示した例コードです:
import torch
import torch.nn as nn
import torch.optim as optim
# 定义一个简单的神经网络模型
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.fc1 = nn.Linear(10, 5)
self.fc2 = nn.Linear(5, 1)
def forward(self, x):
x = torch.relu(self.fc1(x))
x = self.fc2(x)
return x
# 创建模型实例
model = Net()
# 定义L2正则化参数
l2_lambda = 0.01
# 定义优化器和损失函数
optimizer = optim.Adam(model.parameters(), lr=0.01)
criterion = nn.MSELoss()
# 训练模型
for epoch in range(100):
optimizer.zero_grad()
# 正向传播
output = model(torch.randn(1, 10))
loss = criterion(output, torch.randn(1, 1))
# 添加L2正则化项
l2_reg = torch.tensor(0.)
for param in model.parameters():
l2_reg += torch.norm(param)
loss += l2_lambda * l2_reg
# 反向传播
loss.backward()
optimizer.step()
上記の例では、まず簡単なニューラルネットワークモデルNetを定義し、その後モデルインスタンスを作成します。トレーニングループでは、optimizer.zero_grad()を使用して以前の勾配をクリアし、次にフォワードパスと損失の計算を行います。その後、すべての重みパラメータのL2ノルムを計算し、それを正則化項として損失関数に追加します。最後に、バックワードパスを実行してモデルパラメータを更新します。