線形回帰で二乗和を2で割る理由について - デジタル・デザイン・ラボラトリーな日々

はじめに これは、機械学習に必要な高校数学やり直しアドベントカレンダー Advent Calendar 2016の10日目の記事です。 線形回帰 ー 誤差の和の式(データ個数 n 個の場合) 2乗することに関しては、以前書いた下記の記事にてピタゴラスの定理で距離を求めるという理解を得ることが出来ました。 正の数と負の数が混ざっていると都合が悪いから、必ず正の数にするために2乗するってことです。 それなら絶対値を取った値でもいいと思われるが、目的関数を微分することになった時に絶対値の微分より2乗の微分の方が簡単になる。 絶対値だと微分ができない場所があるのと、場合分けをしないといけないから面倒なのです。 yaju3d.hatenablog.jp でも、全体を 2 で割ってる理由はなんだろうという疑問を持ちました。 経緯 「やる夫で学ぶ機械学習 - 単回帰問題 -」とgihyo.jpの「機械学

[somemo]

“英語版 Wikipedia の「Backpropagation」　The algorithm の節より: The factor of 1/2 conveniently cancels the exponent when the error function is subsequently differentiated.”