2変数正規分布と最小二乗法の興味深い関係について説明しよう。ふたつの間を取り持つのは条件付期待値である。 2変数正規分布 2変数正規分布に従う2つの確率変数x1、x2の同時分布は次のような確率要素であった。 これを元にx1の確率要素をdP1として、x2の条件付確率要素dQ=dP/dP1を求めよう。確率要素dP1は、同時密度の周辺分布であったことは覚えておられるだろう。 なので、 従って、x2の条件付確率分布は、やはり正規分布となるのである。この結果は、同時分布と周辺分布をいつものように表せば、 という条件付確率密度の計算になっている。そしてその条件付期待値と分散は直ちに、 と分かる。この条件付期待値は、x2の期待値がすでにとられているから、先行条件として与えるx1の関数となっており、回帰関数といわれる。条件付期待値が同時確率を持つ変数との最小分散を与える関数となることはすでに先の項で述べた