やっぱりdoubleでは「76287755398823936」は表現できない - ψ（プサイ）の興味関心空間
「なぜJavaScriptで「76287755398823936」が正しく表示できないか、あるいはなぜRubyでも表せないか。」の続きです。後半戦、テンションあげてまいりましょー（涙目 ■出力側ソースコードのチェック！ さて...では重い腰を上げてソースコードを読みましょうか...。 FirefoxでもChromeでも起きるなら、何かWindowsのライブラリのバグ...なんでしょうか。ま、いいや。とりあえずソースコードが探しやすそうなChromeから見てみましょう。 それっぽいメソッドを探していくと...見つかりました。これですね。v8::internal::Grisu3()です。...あれ...？標準ライブラリじゃ...ない...！？うげぇめんどくさい... v8をWindows上でコンパイルするのはひたすら☆面倒†1なので、Ubuntu上でコンパイルしてCodeLiteというIDEを
なぜJavaScriptで「76287755398823936」が正しく表示できないか、あるいはなぜRubyでも表せないか。 - ψ（プサイ）の興味関心空間
「Twitter住所特定実験」を開発中に気づいた事です。取得したツイートをサーバからJSONでクライアント側のJSに送る処理があって、当初この時にTwitterのツイートのIDをJSONに数値として含めて送っていました。 が、JavaScriptではこの値を受信してeval()した†1際、うまく変換することができず、たとえばChrome/Firefoxでは「76287755398823940」となり、微妙に異なった数値になってしまいました。 以下をクリックすることで、実際に実行できます。 javascript:alert(76287755398823936) IE8/9だと「76287755398823930」となり、まだ微妙に違った値になります。 ■doubleの精度の問題？？ まず疑われたのはdoubleの精度の問題。一部では有名な話で、JavaScriptでは数値はすべてdouble
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
