サクサク読めて、アプリ限定の機能も多数!
「0.1 + 0.2 === 0.3」にならない理由と「(1.0/3.0)*3.0 === 1.0」にならない理由は本質的に同じなんだが,decimal型は前者しか解決できない。10 (か,特定の2と5の倍数)の割り算しか正確には扱えない。
t-tanaka のブックマーク 2024/06/09 11:36
decimal型(十進小数)に夢を見ている輩が多すぎる - Qiita「0.1 + 0.2 === 0.3」にならない理由と「(1.0/3.0)*3.0 === 1.0」にならない理由は本質的に同じなんだが,decimal型は前者しか解決できない。10 (か,特定の2と5の倍数)の割り算しか正確には扱えない。2024/06/09 11:36
このブックマークにはスターがありません。 最初のスターをつけてみよう!
qiita.com/mod_poppo2024/06/08
みたいなのが挙げられます。これが話題になった時にSNSで見かける言説が「十進小数 (decimal) 型ならこういう問題はない」です。 ですが、decimal型は十進小数を正確に表現できるという話でしかなく、全ての実数...
239 人がブックマーク・58 件のコメント
\ コメントが サクサク読める アプリです /
「0.1 + 0.2 === 0.3」にならない理由と「(1.0/3.0)*3.0 === 1.0」にならない理由は本質的に同じなんだが,decimal型は前者しか解決できない。10 (か,特定の2と5の倍数)の割り算しか正確には扱えない。
t-tanaka のブックマーク 2024/06/09 11:36
このブックマークにはスターがありません。
最初のスターをつけてみよう!
decimal型(十進小数)に夢を見ている輩が多すぎる - Qiita
qiita.com/mod_poppo2024/06/08
みたいなのが挙げられます。これが話題になった時にSNSで見かける言説が「十進小数 (decimal) 型ならこういう問題はない」です。 ですが、decimal型は十進小数を正確に表現できるという話でしかなく、全ての実数...
239 人がブックマーク・58 件のコメント
\ コメントが サクサク読める アプリです /