「0.1 + 0.2 === 0.3」にならない理由と「(1.0/3.0)*3.0 === 1.0」にならない理由は本質的に同じなんだが,decimal型は前者しか解決できない。10 (か,特定の2と5の倍数)の割り算しか正確には扱えない。

t-tanakat-tanaka のブックマーク 2024/06/09 11:36

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

decimal型(十進小数)に夢を見ている輩が多すぎる - Qiita

    みたいなのが挙げられます。これが話題になった時にSNSで見かける言説が「十進小数 (decimal) 型ならこういう問題はない」です。 ですが、decimal型は十進小数を正確に表現できるという話でしかなく、全ての実数...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう