エントリーの編集

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
[iOS swift] Doubleとか小数の浮動小数点の誤差をなくしたい NSDecimalNumber « きんくまデザイン
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
[iOS swift] Doubleとか小数の浮動小数点の誤差をなくしたい NSDecimalNumber « きんくまデザイン
こんにちは。きんくまです。 電卓アプリのZippy電卓を作っていて浮動小数点の誤差が出ることに気がつき... こんにちは。きんくまです。 電卓アプリのZippy電卓を作っていて浮動小数点の誤差が出ることに気がつきました。 例えばこんな計算をやってみます。 2.35 – 2.34 = 0.01 になるはずです。 let n1:Double = 2.35 let n2:Double = 2.34 let n3:Double = n1 - n2 print("\(n3)") これの出力結果はなんと、、、、 0.0100000000000002 という数値が出ます。 これはたぶんなんですが、小数を表すときに内部的に誤差が出てしまうからだとおもいます。 で、これを防ぐのにはNSDecimalNumberを使います。 let d1:NSDecimalNumber = NSDecimalNumber(double: 2.35) let d2:NSDecimalNumber = NSDecimalNumber(d