単純パーセプトロンの重み修正量を導出する - shogonir blog

目次 はじめに 変数や関数の定義 パーセプトロンの性能を計測する 最小値問題 勾配降下法 修正量の計算 まとめ はじめに 以前の記事で単純パーセプトロンの学習について、 下記のような計算を行うとご説明しました。 $$ w_j \leftarrow w_j - \alpha\sum_{i=1}^{4}\left(y_i^{\prime} - y_i\right) f^{\prime}(a_i) x_{ij} $$ blog.shogonir.jp 今回はこの計算式がどのように導けるのか解説したいと思います。 この記事はプログラミングではなく、どちらかというと数学の記事になります。 変数や関数の定義 まずはパーセプトロンの出力の計算に関する変数や関数です。 入力が 次元だとして、入力 から出力 を計算します。 計算の際には重み を使います。 $$ y = f(a) $$ $$ x = \lef