タグ

ディープラーニングに関するcanadieのブックマーク (1)

  • 微分の基礎 — ディープラーニング入門:Chainer チュートリアル

    微分と関数最小化の関係¶ 前章で微分が目的関数の最小化に役立つと紹介しました。節ではまず具体例を用いてそのことを直感的に理解しましょう。 例として、下図のような下向きにくぼんだ形をした関数がどこで最小値をとるかを探す問題を考えます。 適当な点 \(\theta_{1}\) でこの関数のグラフに接する直線(接線)を考えます(注釈1)。 仮にこの接線の傾きが \(+3\) 、すなわち正の値であったとしましょう。この時、接線は右に進むほど高さが上がり,逆に左に進むほど高さが下がります。 \(\theta_{1}\) の周辺では、関数のグラフと接線は非常に近く、両者はほとんど見分けることができません。 すると、関数も接線と同じように \(\theta_{1}\) 右に進むと増加し,左に進むと減少していることがわかります。 次に、グラフ上の別の点 \(\theta_{2}\) においてこのグラフに

    微分の基礎 — ディープラーニング入門:Chainer チュートリアル
  • 1