Rubyの浮動小数点数リテラルの扱いは正しいのか - hnwの日記
題名の通りなんですが、前回の記事「PHP以外全員不正解」に対して「ダウト！」を頂戴したのでまとめてみます。 Cのこの動作が、唯一無二絶対のものであるとする根拠はどこにあるのでしょうか? strtod によれば、 If the subject sequence has the decimal form and at most DECIMAL_DIG (defined in ) significant digits, the result should be correctly rounded. If the subject sequence D has the decimal form and more than DECIMAL_DIG significant digits, consider the two bounding, adjacent decimal strings L and
Ruby の浮動小数点リテラルの精度を直した - Psychs's blog
http://www.rubyist.net/~matz/20070803.html#p04 コメント欄ではshiroさんが、「How to Read Floating Point Numbers Accurately (1990)」 by William D. Clingerという論文を紹介していた。 せっかくもらった情報なんで、Rubyでもちゃんと実装したいんだが、 私がやっても(算数的素養の無さから)グダグダに してしまいそうなんで、だれか手をあげてくれるとうれしいなあ。他力本願モード。 と Matz さんが書いていたので、論文を読みながらいろいろと試行錯誤してみたが、現状のコードを元に必要な精度を出すのは無理という結論に。 そこで調べてみると、ベル研の David M. Gay という人がすでに実装してることがわかった。 その実装を Ruby 本体に取り込むパッチを書いて送ったら、
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
