タグ

javascriptと計算に関するmio_wembleyのブックマーク (1)

  • Double-talk Publisher JavaScript、お前もか(小数点を含む計算について)

    座標系のオブジェクトを扱うときは「小数点」を避けて通れません。しかし、JavaScriptで小数点を扱うときには「非常に重要な」注意点があります。 まず、以下のコードを実行してみます。 var x=20.2; var y=20; alert(x-y); 「0.2」という至極当然の結果が表示されます。では、次のコードはどうなるでしょう。 var x=20.2; var y=20; if (x-y===0.2) { alert('true'); } なんと、falseで通過してしまいました。こういう場合はコンソールにはき出してみるのがデバッグの基です。では、さきほどのコードの最後に「$.writeln (x-y);」を加えて実行してみましょう。 おかしいですね。ちゃんと「0.2」となっています。この程度のコードならこの結果で「何かがおかしい」とすぐに気づくのでしょうが、それなりに書き上げた後

  • 1