Double-talk Publisher JavaScript、お前もか（小数点を含む計算について）

座標系のオブジェクトを扱うときは「小数点」を避けて通れません。しかし、JavaScriptで小数点を扱うときには「非常に重要な」注意点があります。 まず、以下のコードを実行してみます。 var x=20.2; var y=20; alert(x-y); 「0.2」という至極当然の結果が表示されます。では、次のコードはどうなるでしょう。 var x=20.2; var y=20; if (x-y===0.2) { alert('true'); } なんと、falseで通過してしまいました。こういう場合はコンソールにはき出してみるのがデバッグの基本です。では、さきほどのコードの最後に「$.writeln (x-y);」を加えて実行してみましょう。 おかしいですね。ちゃんと「0.2」となっています。この程度のコードならこの結果で「何かがおかしい」とすぐに気づくのでしょうが、それなりに書き上げた後

[aym0126]

javascriptで小数点の計算をしてはいけない。

[take-it]

aJavaScriptの小数点計算について。ハマった。

[sakuragaoka]

なるほど

[chalcedony_htn]

小数点を含む計算をJavaScriptにやらせると、想定外の計算結果になる可能性があるという話。簡単な計算であれば10のn乗倍してから計算すればOK。参考：浮動小数点数(Wikipedia) http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%