今回は、このことを考えてみたいと思います。 複雑な関数を、たくさんの「線形結合」と「単純な非線形」に 大よそ、ディープラーニングの入門書を読むと先のような記述が現れます。筆者も何度もその記述に出会い、そのたびにこんな悩みを抱えていました。 「電気信号が脳を伝わっていく流れを再現する」という直感的かつ身近な例による説明に「ピンとくる」という人も、きっと多いのだと思います。でも、筆者は何だかこの説明にいまいち「ピンとこない」時期が続いたのを覚えています。「わかりやすい説明」は人によって違うものだと思いますし、おそらく、筆者と同じ悩みを抱えている方も一定数いらっしゃるのではないでしょうか。 そこで今回は、一旦「脳の神経細胞」のことは忘れて、同じことの「数学的」アプローチによる理解を試みてみましょう。 前回で、我々にとっての目標は「関数の近似」であることを説明しました。そして、一般的に世の中に溢れ
![「複雑」をたくさんの「単純」に分解する〜順伝播は「1次関数」と「単純な非線形」の繰り返し](https://cdn-ak-scissors.b.st-hatena.com/image/square/30036854da9c833afe5b72f0c83c415763707560/height=288;version=1;width=512/https%3A%2F%2Fthinkit.co.jp%2Fsites%2Fdefault%2Ffiles%2Fmain_images%2Fcover_AI_math.jpg)