ベクトルの微分 - 機械学習に詳しくなりたいブログベクトルの微分の定義 スカラを返す関数において、ベクトルでの微分係数は以下のように定義されます。 ベクトル,に対して、ですから、式(1)の定義と、転置行列の定理の式(5)より、 となることがわかります。で微分すれば、その係数のみ残りますので、解はk番目の成分がのベクトル、つまりになります。 2次形式の微分 次に2次形式の微分を考えます。はスカラになりますから、微分は式(1)の定義に従えばよいです。また、がn次元なら、が計算可能な行列Aは、n×nの正方行列です。 行列Aを とすれば、 となりますから、 です。 ここでk番目の成分での微分を考えると、積の微分公式より となります。（で微分すれば、それぞれi=k、j=k以外の成分は消えます） ここで、式(7)を見ますと、前半の項はのk番目の成分であり、後半の項はのk番目の成分になっていますから、これをk=1～nまで並べれば、になることがわかります
http://owl.nagaokaut.ac.jp/files/note/machine_learning/linear_algebra.pdf
