タグ

ブックマーク / qiita.com/takseki (1)

  • ノルム最小解の射影による導出 - Qiita

    最小二乗解についての記事 に引き続き、$ x $ についての(連立)線形方程式 $$ Ax=b $$ が解けない場合について考えます1。 最小二乗解について復習します。 $m>n$($A$ が縦長)のとき、条件の方が変数よりも多く、方程式としては不能(解なし)で、$ || Ax-b ||^2 $ が最小になるような $\hat{x}$ は $$\hat{x}=(A^TA)^{-1}A^T b$$ と求められ、これを最小二乗解と呼ぶのでした。 $ Ax=b $ が一意に解けない場合として、もう1つあります。 それは、$m<n$($A$ が横長)のときで、この場合、条件よりも変数が多く、方程式としては不定で、$ Ax=b $ を満たす解は無数に存在します。 このような場合、無数の解のうち、$ ||x||^2 $ が最小になるような $\hat{x}$ を求めることが多々あります。これはノルム最

    ノルム最小解の射影による導出 - Qiita
  • 1