標本分散の計算方法による速度差と誤差について - 睡眠不足？！
後輩のつぶやきがきっかけで標本分散の計算方法について気になって検証してみたのでメモ．標本分散の計算方法は2つある．以下の定義式:と，自乗の平均から平均の自乗を引くもの:.ちゃんとした呼び方を知らないので，本記事では前者を定義式，後者を簡易計算式と呼ぶことにする．計算機で標本分散を計算しようとすると，定義式では一度平均を計算する必要があり2回のループを回す必要があり後者に比べて時間がかかる．1パスで済む簡易計算式の方が計算は速いものの，先に自乗計算を行うため，桁落ちに伴う数値誤差が発生する．ここまではWik... > このページを見る
はてなブックマーク
