【決定版】スーパーわかりやすい最適化アルゴリズム -損失関数からAdamとニュートン法- - Qiita

オミータです。ツイッターで人工知能のことや他媒体で書いている記事など を紹介していますので、人工知能のことをもっと知りたい方などは気軽に@omiita_atiimoをフォローしてください！ 【決定版】スーパーわかりやすい最適化アルゴリズム 深層学習を知るにあたって、最適化アルゴリズム(Optimizer)の理解は避けて通れません。 ただ最適化アルゴリズムを理解しようとすると数式が出て来てしかも勾配降下法やらモーメンタムやらAdamやら、種類が多くあり複雑に見えてしまいます。 実は、これらが作られたのにはしっかりとした流れがあり、それを理解すれば 簡単に最適化アルゴリズムを理解することができます 。 ここではそもそもの最適化アルゴリズムと損失関数の意味から入り、最急降下法から最適化アルゴリズムの大定番のAdamそして二階微分のニュートン法まで順を追って 図をふんだんに使いながら丁寧に解説 し

[Windymelt]

良い

[zyzy]

ライブラリ任せにしてないでちょっとちゃんと一度自分で理解してみないとあかん気はしている

[stealthinu]

ニューラルネット学習のオプティマイザについての解説。Adamに至るまでのアルゴリズムがSGD/モーメンタム/RMSProp/Adamという流れで説明されててわかりやすい。

[hsato2011]

optimizerの良しあしや説明

[misshiki]

分かりやすい。

[crexist]

力作！！