勾配降下法の最適化アルゴリズムを概観する | POSTD
(編注：2020/10/01、2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次： さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最適化するアルゴリズム Momentum(慣性) Nesterovの加速勾配降下法 Adagrad Adadelta RMSprop Adam アルゴリズムの可視化 どのオプティマイザを選ぶべき？ SGDの並列化と分散化 Hogwild! Downpour SGD SGDのための遅延耐性アルゴリズム TensorFlow Elastic Averaging SGD 最適化されたSGDに対する更なる戦略 シャッフル学習とカリキュラム学習 バッチ正規化 早期終了 勾配ノイズ 結論 参考文献 勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネット
AIの進化と歴史 -ロボット棋士の勝利を支えた「数理最適化」とは
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 今、情報科学において重要な技術のうちの1つとして「人工知能」（AI）が多くの場で議論されている。前回は、人工知能というものが一体何か、ビジネスや社会とどう関わっていくのかについて、コンピュータの歴史を紐解くことによって解説した。 そこでは、「人工知能というものが一体何なのかを定義すること自体が不可能」であるということ、機械は人間と違って「与えられた問題を与えられた方法で解くこと」しかできないということ、「問題を設定して解決することは人間にのみ与えられた能力であること」について示した。 今回は、前回、“人工知能”や「機械」と表現していたものを、それらの具体的な中身である「数理最適化」という方法を解説することによって、より深く理解し、人間に
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
