
エントリーの編集

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
【Ruby】小数点同士の計算結果がズレる、違う、意図したものにならない - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
【Ruby】小数点同士の計算結果がズレる、違う、意図したものにならない - Qiita
詳細は下記。 BigDecimalを設定しておかないとだめって話なのだが、 インスタンス宣言元では使ってるの... 詳細は下記。 BigDecimalを設定しておかないとだめって話なのだが、 インスタンス宣言元では使ってるのに対応されないってのが一つと、恐らくBigDecimal使うとインスタンス元と同じ桁数になるから、 .add、.sub、.mult、.divを使って第2引数に桁数指定して計算しないといけない可能性がある。 しかもこれ既存不具合で潜在してた。 それ以前に今回の変更箇所が不明になったので優先的では無いが、 何故か試験で精度を求められるようなので追加で報告相談して対応方針をクライアントに決めてもらう流れになるだろう。(勝手に決めてはいけない) まーやらんといけんだろうが、 一度対応方針確認して了承得てると補足しておく。 既存仕様からの差分変更対応の落とし穴として 変更ないところで最終的にひっくり返されることになるのは勉強した。。。 もう二度とヤダ。。。