サクサク読めて、アプリ限定の機能も多数！
新社会人プログラマー諸氏の為に、いつもの 奴（0.1 + 0.2 が 0.3にならない問題）。厳密な計算したければ計算途中は、Decimal使うか桁数保障した上で固定小数的にやる（整数上で結果出してから最後だけ小数に）とかとか。
mswar のブックマーク 2018/04/19 21:37
このブックマークにはスターがありません。 最初のスターをつけてみよう！
blog.apar.jp2017/12/05
です。（10進数の「整数」はすべて2進数に正しく変換できます） JavaScript に限らずコンピューターで計算をする場合は、10進数から2進数に変換してから計算して、計算結果をまた2進数から10進数に戻して表示して...
11 人がブックマーク・4 件のコメント
＼ コメントが サクサク読める アプリです ／
新社会人プログラマー諸氏の為に、いつもの 奴（0.1 + 0.2 が 0.3にならない問題）。厳密な計算したければ計算途中は、Decimal使うか桁数保障した上で固定小数的にやる（整数上で結果出してから最後だけ小数に）とかとか。
このブックマークにはスターがありません。
最初のスターをつけてみよう！
小数計算の誤差 0.1 + 0.2 が 0.30000000000000004 になる理由
です。（10進数の「整数」はすべて2進数に正しく変換できます） JavaScript に限らずコンピューターで計算をする場合は、10進数から2進数に変換してから計算して、計算結果をまた2進数から10進数に戻して表示して...
11 人がブックマーク・4 件のコメント
＼ コメントが サクサク読める アプリです ／