JavaScript で parseInt / parseFloat を使わない方が良い理由
となるのが原因です。parseInt というのは、文字列を解析して整数値（int）を返すグローバル関数であり、引数をまず文字列に変換する仕様となっております。その段階で 0.0000005 が "5e-7" という文字列に変換されてしまい、その文字列の先頭の 5 だけが数字として解析されてしまったため、結果として parseInt(0.0000005) === 5 となりました。 なぜ String(0.000005) === "0.000005" に、String(0.0000005) === "5e-7" になるのかについては、この記事の最後で余談として説明します。 整数化には Math.trunc を使おう このように、parseInt は文字列を引数にすることを前提にしているため、速度の面でも可読性の面でも「小数値を整数値に変換したい」という場合に使うのは望ましくありません。最も望
Odashi on Twitter: "『数値計算の常識』を読むと自分の浮動小数点数関係のコードがいかに非常識だったか分かるやつでしょ"
『数値計算の常識』を読むと自分の浮動小数点数関係のコードがいかに非常識だったか分かるやつでしょ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://twitter.com/microayatron/status/1600118555034329089
新山祐介 (Yusuke Shinyama) on Twitter: "高速行列演算パッケージのBLASは非常に複雑だと思われているが、実際には100行程度のCでほぼ同等の速度が出せる。やっていることは: - SIMDを使ったベクトル化 - ブロック化によるキャッシュの最大活用 - マルチスレッドによ… https://t.co/FbM0BkRFl3"
