浮動小数点演算での誤差のはなし - サタケ家エクセルの仕事やってて、たまたま出てきた問題。 45.2 - 38.8 はいくつ？ 常識的に考えたら、6.4 だよなあ。ところが。 vbaの答え ? 45.2-38.8 6.40000000000001 なんじゃこりゃああああああああああああああああ！！！！コンピュータのクセに間違うとはナニゴト！！ 他の処理系はどうなんだろうと思って調べてみた。 perlの答え http://codepad.org/OWDONYfj $a=45.2; $b=38.8; print $a-$b # 6.40000000000001 rubyの答え http://codepad.org/TqYa8sA2 $a=45.2; $b=38.8; print $a-$b # 6.40000000000001 cの答え http://codepad.org/TKxjBYEB int main() { double a;
