今回は、回帰分析の細かいモデルの話を中学校で習う「三平方の定理」を利用して考えてみます。 最小2乗法による推定 回帰分析では、最小2乗法という計算方法で、回帰直線をひくための2つの推定値(切片と傾き)を決めます。何を最小にするかというと実際に観測したデータとモデルによる推定値の間に生まれる誤差(残差と呼びます)を最小にしたいわけです。2乗というのは以下のような計算方法で残差を計算することによります。 予測したモデルにおける推定値と観測した値を引き算する。 引き算の答えを2乗する。この段階で、推定値が大きくなる場合でも、小さくなる場合でも、2乗した後の値の符号がプラスになります。 2乗した値を全て足しあわせます。(これを平方和と呼びます) この計算過程は分散の計算方法によく似ています。分散では、データの各値の平均からのズレを2乗して全て足し合わせます。さらにこれをデータ数(または自由度)で割
![三平方の定理で理解する回帰分析における分散の分解 - jnobuyukiのブログ](https://cdn-ak-scissors.b.st-hatena.com/image/square/76a83d42303a04cad05ef5f50e7805284bda18a1/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fj%2Fjnobuyuki%2F20161211%2F20161211142704.jpg)