最小二乗法の意味と計算方法 - 回帰直線の求め方

最小二乗法（または、最小自乗法）とは、誤差を伴う測定値の処理において、その誤差の二乗の和を最小にすることで、最も確からしい関係式を求める方法です。 最小二乗法の意味 最小二乗法とは、モデル関数を $f(x)$ とするとき、 \[ \sum_{i=1}^n\{y_i-f(x)\}^2 \] が最小となるように $f(x)$ を求めることである。 最小二乗法による回帰係数の計算方法 回帰直線を $y=ax+b$ とするとき \begin{align*} a &= \frac{s_{xy}}{{s_x}^2} \\[5pt] &= \frac{\sum_{n=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sum_{n=1}^n(x_i-\overline{x})^2} \\[5pt] b &= \overline{y}-a\overline{x} \\[5