以下のニューラルネットワークを使用して、論理演算を再現します。 損失が最小となる重みとバイアスを求めるため、今回の勾配降下法の対象となる関数は、 各ノードの計算を行い、ソフトマックス関数と損失関数(クロスエントロピー誤差)を通した、ニューラルネットワーク全体が対象となります。 そして、全ての重みとバイアスの数だけ編微分を行い、重みとバイアスを更新していきます。 import matplotlib.pyplot as plt import numpy as np # ReLU(ndarray版) def relu(lst): lst[lst <= 0] = 0 return lst # ソフトマックス関数(ndarray版) def softmax(x): #転置しない場合のやり方 #x2 = x.copy() #x2 = x2 - np.max(x2, axis = 1).reshape(
![9cubed](https://cdn-ak-scissors.b.st-hatena.com/image/square/9621a96d57636238e9188642d0982174521bfdaa/height=288;version=1;width=512/https%3A%2F%2F9cubed.info%2Fimg%2F9cubed.jpg)