前回は既に学習済みのパラメータがあるものとして、そこからフォワード計算を行ない予測を出すところを実装しました。今回は、データからパラメータを学習するところの実装について考えてみます。具体的には、「ゼロから作るDeep Learning」の5章にある、計算グラフベースでの誤差逆伝搬法の実装と、それを使った隠れ層二層のニューラルネットの学習と予測について書こうと思います。 一応Githubにレポジトリ作りました(まだあまり整理されていない)。ちなみに処理系はSBCL 1.4.3で動作確認しています。 https://github.com/masatoi/cl-zerodl インストール手順は上記を参照してください。 準備 前回と同様に必要ライブラリを読み込み、作業用パッケージを定義しておきます。 metabang-bindは分配束縛などに対応したletの拡張版のような構文を導入するライブラリで
![Common Lispでゼロから作るディープラーニング (2)誤差逆伝搬法での学習 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/f64703f550742f1aadad8eba34d5040001f0aef7/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9Q29tbW9uJTIwTGlzcCVFMyU4MSVBNyVFMyU4MiVCQyVFMyU4MyVBRCVFMyU4MSU4QiVFMyU4MiU4OSVFNCVCRCU5QyVFMyU4MiU4QiVFMyU4MyU4NyVFMyU4MiVBMyVFMyU4MyVCQyVFMyU4MyU5NyVFMyU4MyVBOSVFMyU4MyVCQyVFMyU4MyU4QiVFMyU4MyVCMyVFMyU4MiVCMCUyMCVFRiVCQyU4ODIlRUYlQkMlODklRTglQUElQTQlRTUlQjclQUUlRTklODAlODYlRTQlQkMlOUQlRTYlOTAlQUMlRTYlQjMlOTUlRTMlODElQTclRTMlODElQUUlRTUlQUQlQTYlRTclQkYlOTImdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTFkZDE1NzgzNjU4YzI1NzI4NzEyZGFiMjE2ZTM5Njhh%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwbWFzYXRvaTAmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTdjZjBhMDkzYzgzNzgzMTM3OWM0YzY0MTE2YzhjM2Zm%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D2e5686cbd5c209a7ca8148c3d6c6ad2e)