タグ

小数点に関するNemisamaのブックマーク (2)

  • Double-talk Publisher JavaScript、お前もか(小数点を含む計算について)

    座標系のオブジェクトを扱うときは「小数点」を避けて通れません。しかし、JavaScriptで小数点を扱うときには「非常に重要な」注意点があります。 まず、以下のコードを実行してみます。 var x=20.2; var y=20; alert(x-y); 「0.2」という至極当然の結果が表示されます。では、次のコードはどうなるでしょう。 var x=20.2; var y=20; if (x-y===0.2) { alert('true'); } なんと、falseで通過してしまいました。こういう場合はコンソールにはき出してみるのがデバッグの基です。では、さきほどのコードの最後に「$.writeln (x-y);」を加えて実行してみましょう。 おかしいですね。ちゃんと「0.2」となっています。この程度のコードならこの結果で「何かがおかしい」とすぐに気づくのでしょうが、それなりに書き上げた後

  • CSSの小数点以下の数値を各ブラウザはどのように解釈するか

    CSSで小数点以下を指定できる単位で、小数点以下の数値の扱いがブラウザごとに異なっているようなので、単位別にまとめてみました。 調査時の各ブラウザのバージョンですが、Internet Explorer 9 & 10 (Windows 7), Firefox 17, Chrome 25 dev-m, Opera 12.10となっています。調査にはブラウザ付属の調査ツールを使いました。 表が見づらいかもしれませんが、我慢してください。 なお、これはどうレンダリングされるかなどは考慮していません。 その指定がどう解釈されるかだけを調べたものです。 指定した値についてですが、但し書きがない場合は1.5555555555です。 Percentageフォントサイズをパーセンテージ指定。

    CSSの小数点以下の数値を各ブラウザはどのように解釈するか
  • 1