Pytorchを使った最適化のメモ - Qiita

関数ベースになったtensorflow2が使いづらいので，Pytorchに移行中． この記事は，パッケージをそのまま使う現代っ子ではなく，loss関数や最適化手法は自分で作りたいという懐古主義向けです． 「勾配は手計算するものだ」という，化石は対象ではないです． データ生成 適当に生成 import numpy as np import matplotlib.pyplot as plt import torch from torch.autograd import Variable import torch.optim as optim N = 100 a_data = - 1 b_data = 1 sigma_data = 0.1 x_data = 2 * np.random.rand(N) y_data = a_data * x_data + b_data + sigma_data *