エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
JavaScript:計算誤差の対処 - ソフトウェア開発者の日常
JavaScriptで計算している部分で、想定と異なる結果になる場合がありました。 具体的には、36.3×700=25,... JavaScriptで計算している部分で、想定と異なる結果になる場合がありました。 具体的には、36.3×700=25,410になるはずですが、25,409になります。 ブラウザのデバッガで値を確認しても、36.3と700のまま掛け算をしていますが、25,409になります。 検索すると、JavaScriptがIEEE 754という規格に従って実装されているためのようです。 IEEE 754 - Wikipedia photo credit: Canadian Pacific Do Your Math! via photopin (license) 整数同士なら誤差がでない 対処方法としては、公開されているJavaScriptライブラリを導入する方法もあるようです。 今回計算しているのは1箇所だけだったので、以下の記事を参考に実装しました。 qiita.com 小数点の以下の桁数を把握して、
2024/01/04 リンク