タグ

ブックマーク / qiita.com/azapen6 (1)

  • 桁の落ちない話 - Qiita

    今回取り上げるのは,計算機上で小数を扱う際に重要な問題となってくる『桁落ち』という現象である。記事の内容はほとんど実装言語に依存しないことを断っておく。(実際の計算例ではC言語を用いている。) 結論から言えば,『桁落ち』とは「近接した値同士で引き算をすると結果の不確かさが極端に大きくなる」ということだ。かなり微妙な言い回しだが,ともかく「引き算には気をつけろ」といった意味だと今は思っておいていただきたい。 以下の文で言うところの『足し算』および『引き算』とは「正の数同士」とで行われるものだけを指すものとする。「正の数と負の数の足し算」およびその逆は引き算と見なす。 小数と誤差 計算機上では普通は2進小数が使われるのだが,『桁落ち』は特に基数に依存する概念ではないので,我々にとって馴染み深い10進小数1で説明する。 有効数字と誤差 現代において我々は整数でない数を小数で表し,特に無限小数

    桁の落ちない話 - Qiita
    NetPenguin
    NetPenguin 2021/09/08
    桁落ち,小数, 桁落ちは引き算でのみ発生する
  • 1