タグ

ブックマーク / e-words.jp (1)

  • 桁落ちとは - IT用語辞典

    概要 桁落ち(loss of significance)とは、丸め誤差を含む非常に近い大きさの小数同士で減算を行ったときに、有効数字が減る現象のこと。コンピュータでは浮動小数点数の数値計算において生じる。 長い桁の小数や無限小数を数値計算する場合には、ある桁以降の値を四捨五入するなどして有限桁で表す(丸める)ことがあるが、丸めた後の値が非常に近い値同士で減算を行うと差が非常に小さい値となり、計算前の値より有効な桁が大きく減少してしまうことがある。 例えば、√100001-√100000 という計算を有効数字8桁で行うと 0.31622935×103-0.31622777×103 = 0.158×10-2 となってしまい、得られた結果の有効な桁は3桁に減少してしまう。 コンピュータの浮動小数点形式では便宜上、計算の結果失われた下位の桁を0で埋めて 0.15800000×10-2 のように扱う

    桁落ちとは - IT用語辞典
    wshito
    wshito 2007/06/29
    桁落ちの「問題点」を一番良く説明している.
  • 1