RubyとPythonとC#のround関数のバグっぽい挙動について - hnwの日記

(12/29 20:40追記)「（追記）なぜMySQLのdecimal型を例に使ったかについて」というセクションを追加しました。また、コメントを頂戴したので返信しました。 (12/29 21:30追記)C#について言えば「Math.Round メソッド (Double, Int32)」に内部実装がどうなっているか書いてあるので仕様通りであり、誤解しようが無いという情報を頂きました。ありがとうございます。そしてごめんなさい、確かにバグじゃないです！ (12/29 21:50追記）Pythonのround関数のドキュメントにも誤差が入るかもしれないという記述があります。しかし、内部実装の紹介があった方がいつどういう誤差が入るかわかるので親切かなという気がします。また、浮動小数点数の性質上誤差が入るのは仕方が無いかのような記述に見えるのですが、浮動小数点数を使っていても誤差の入らない実装がありう

[hnw]

id:gerarad さん、id:ghostbassさん：コメントありがとうございます。「（追記）なぜMySQLのdecimal型を例に使ったかについて」という章を追記しました。decimal型を使っていますが、あくまで浮動小数点処理の話題なんです。

[gerarad]

なんでMySQLだけdecimalを使って正しい挙動だと言っているのか意味がわからないw

[ghostbass]

MySQLでdecimalを使っておいてC#でdecimalを使わないのは何故ですか？もしかしてMono環境にはdecimalがないんですか？

[kitokitoki]

昔の記事かと思ったら、2013年でした

[rryu]

MySQLの処理はたぶんRubyで書くと BigDecimal.new(5.015.to_s).round(2) で、丸めに浮動小数点数は関係していないと思う。

[kasumani]

RubyとPythonとC#のround関数のバグっぽい挙動について RubyとPythonとC#のround関数について、小数点以下第n位までに丸める使い方は注意が必要、もしくはそれらのround関数にバグがあるんじゃないか、という話題です。 Tags: from Pock

[ikeikeikeike]

pythonのdecimalだとどうなるんだろうか

[momontyo]

バグではないわけだが、ちゃんと仕様として設計したのではなく成り行きに任せてると、移植案件で面倒な事になったなあ。

[Nyoho]

計算機だから2進数だけでなく10進数も扱えますもんね。MySQLに限らず10進表現のまま計算できるのはある。

[cj3029412]

たまにこれでハマるw

[sirocco]

Haskellでは round (0.5 :: Double) が0になるようです。http://stackoverflow.com/questions/10738569/round-to-nearest-integer

[theatrical]

bigdecimal使えって話ですね。

[at_yasu]

ほぉ

[Chisei]

読んだ。