ときどきの雑記帖 めぐりあい電脳空間編 2010年月(旬)

■_ 0.1+0.1+... んと、言語、処理系に関わらずほぼすべてのもので同じ結果になるんじゃないかと思います。 いまどきは IEEE 754でライブラリ丸投げな感じでしょうから。 とはいえ最下位桁(とさらにその下の桁)の扱いによって違いが出たりするんですが。 Hena Hena Nikki ～悔い倒れの日々～(2010-07-16) * [computer] 浮動小数点数のちょっとしたクイズ へるみさんの日記の記事。 GNU Emacs 環境でどうなるのかなと思い、試してみた。 (emacs-version) => "GNU Emacs 22.3.2 (i486-apple-darwin10.4.0, Carbon Version 1.6.0 AppKit 1038.32) of 2010-07-17 on hogehoge.local" (format "%.17f" 0.1) =>

[rryu]

0.1+0.1+...+0.1が1にならないのは丸め誤差と情報落ちが関わっているという話。

[mattn]

こちらの「ゲッツ！」も終わりなのか。