ベクトルの微分 - 機械学習に詳しくなりたいブログ

ベクトルの微分の定義 スカラを返す関数において、ベクトルでの微分係数は以下のように定義されます。 ベクトル,に対して、ですから、式(1)の定義と、転置行列の定理の式(5)より、 となることがわかります。で微分すれば、その係数のみ残りますので、解はk番目の成分がのベクトル、つまりになります。 2次形式の微分 次に2次形式の微分を考えます。はスカラになりますから、微分は式(1)の定義に従えばよいです。また、がn次元なら、が計算可能な行列Aは、n×nの正方行列です。 行列Aを とすれば、 となりますから、 です。 ここでk番目の成分での微分を考えると、積の微分公式より となります。（で微分すれば、それぞれi=k、j=k以外の成分は消えます） ここで、式(7)を見ますと、前半の項はのk番目の成分であり、後半の項はのk番目の成分になっていますから、これをk=1～nまで並べれば、になることがわかります

[zak3]

Diff of quadratic form

[arihit0]

よく使うベクトル微分の公式の証明。ためになったので保存。