タグ

ブックマーク / qiita.com/Chinats (1)

  • JavaScriptで小数点の誤差が発生する件の備忘録 - Qiita

    function totalPrice(price, tax=1.08){ return price*tax; } document.write(totalPrice(450)+"円"); こうなった! 486.00000000000006円 486円になるはずなのに、この小数点以下はどこから来たんでしょう…。 priceが300円だったら普通に324円になるのに、450円だったら現れるこの小数点以下の子達は一体どこから来たんでしょう…。 丸め誤差 そもそも、コンピューター内部で数値は2進法で計算されます。 10進法 → 0・1・2・3・4・5 2進法 → 0・1・10・11・100・101 ので、桁数の多い数字や小数点を処理するのは大変…というかできないんです(´・ω・`)ショボン そこで、うまく丸こんだ(丸め操作 ≒ 切り上げ・切り捨てなど)時に発生する誤差のことを丸め誤差と言います

    JavaScriptで小数点の誤差が発生する件の備忘録 - Qiita
  • 1