記事へのコメント4件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
JavaScriptによる小数計算の誤差を無くす
ファッ!? 0.1kg痩せたはずが、0kgと表示されてしまいました。 たかだか100gとはいえ、こんな表示にな... ファッ!? 0.1kg痩せたはずが、0kgと表示されてしまいました。 たかだか100gとはいえ、こんな表示になったらガックリきますね。 一行ずつ値を追っていくとわかるのですが、4行目で減算した時点でdiffの値が "0.09999999999999432" とズレてしまっています。 これはJavaScriptがIEEE 754という規格に従って実装されているためです。 つまり、この計算結果はJavaScriptの仕様なのでJavaScript的には正しい値であり、避けようがありません。 このIEEE 754と小数計算の誤差についての関係は下記のURLの解説が分かりやすくオススメです。 http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.shtml これの対処法として、小数値に10^Nの数値をかけて整数値にしてから計算してしまおう! といった対処法を
2016/09/12 リンク