タグ

2023年2月26日のブックマーク (3件)

  • PyTorchは誤差逆伝播とパラメータ更新をどうやって行っているのか? - け日記

    引き続きお仕事PyTorchを使った開発を行っているのですが、これまでKerasで高度にラッピングされた学習フレームワークしか経験が無かったので、お作法的なところで躓くこと・疑問に思うことがよくありました。 loss.backward()で計算グラフを伝って誤差逆伝播されるのはなんとなくわかる だけど、その計算方法や計算結果は誰が持ってて、入力側へどうやって渡してるのだろうか... optimizer.zero_grad()とoptimizer.step()は何をしているの? 今回はPyTorchの誤差逆伝播やパラメータ更新について調べて整理しました。 この投稿ではPyTorch 1.1.0を使ってます。 import torch import torch.optim as optim import numpy as np import matplotlib.pyplot as plt

    PyTorchは誤差逆伝播とパラメータ更新をどうやって行っているのか? - け日記
    hkj
    hkj 2023/02/26
  • PyTorch (8) Transfer Learning (Ants and Bees) - 人工知能に関する断創録

    今回は、公式にあるPyTorch TutorialのTransfer Learning Tutorialを追試してみた! 180205-transfer-learning-tutorial.ipynb - Google ドライブ 前回(2018/2/12)取り上げたVGGやResNetのような大規模な畳み込みニューラルネット(CNN)をスクラッチ(ランダム重み)から学習させられる人は少ない。大規模なデータとマシンパワーが必要になるためだ。 そんな"貧乏人"の強い味方が転移学習(Transfer Learning)。これはDeep Learningを始めたらすぐにでも身につけるべき超重要テクと言える*1 転移学習は、(ImageNetなどの)大規模データで学習済みのモデルを別のタスクに応用(転移)する技術全般を指す。 今回は、ImageNetで学習した1000クラスの分類モデルをアリとハチの

    hkj
    hkj 2023/02/26
    Fine-tuning
  • 鈴木宗男氏「ロシアへの経済制裁やめれば北方領土は返ってくる」 ムネオ節がさく裂(テレビ愛知) - Yahoo!ニュース

    ロシアに対する日の経済制裁について、参議院議員の鈴木宗男氏は「日が経済制裁をやめれば、北方領土は返ってくる」と繰り返し主張した。 【動画で見る】鈴木宗男とロシア嫌いの論客がガチバトル!誰がプーチンの戦争を止めるのか これは2月25日にテレビ愛知で放送された「激論!コロシアム」で、経済制裁を見直すべきかとの質問に答えたもの。 宗男氏は「ロシアに対して経済制裁はすべきでない、意味もない。それより停戦、話し合いの場を作ることだ」と発言。その上で、経済制裁をやめるメリットについて問われると、「日の国益に北方領土がある。経済制裁をやめれば、北方領土が返ってくる」と主張した。 宗男氏「総理がウクライナに行ったら日の明日は厳しくなる」北方領土交渉は進展せず、解決のめどは立っていない。他の出演者から「ロシアに加担することで当に返ってくるのか」と念を押されると、「返ってくる! 安倍さんが(2018

    鈴木宗男氏「ロシアへの経済制裁やめれば北方領土は返ってくる」 ムネオ節がさく裂(テレビ愛知) - Yahoo!ニュース
    hkj
    hkj 2023/02/26
    どの辺に根拠があるのか謎。ちなみにロシアは1度も返還すると明言してないはずだが。彼がそういうってことは、経済制裁はちゃんと効いてるんだなと。