OR学会誌に寄稿しました

オペレーションズ・リサーチ学会機関誌の 2015 年 4 月号に 7 ページの記事を書きました． オペレーションズ・リサーチ 4月号 2015年 Vol.60 No.4 (PDF) 最適化から見たディープラーニングの考え方 上の記事は「ニューロサイエンスと数理モデリング」という特集のうち，深層学習を紹介する 3 つの記事の一つとして書きました． OR 学会誌のバックナンバーを読みながら，最適化の観点で深層学習の話を整理したいと思い上のような記事を書きました． なので，どちらかというと自分の頭を整理するのが主目的みたいになっています． 入門・概要的な内容もお願いされていたので，導入は機械学習自体の説明から入っています（限りなく必要最低限という感じにしてしまいましたが）． この原稿を書いたのは昨年末です． 深層学習界隈はスピードが速く，それから進んだ部分もありますので，いくつか記事の内容を補

[somemo]

“バッチ正規化は，このスケール合わせと白色化をすべての層で明示的に行うことで，どんなに深いネットワークでも勾配が減衰せずに逆伝搬するようにします”

[stockedge]

“バッチ正規化は，このスケール合わせと白色化をすべての層で明示的に行うことで，どんなに深いネットワークでも勾配が減衰せずに逆伝搬する”