ぼくのかんがえたさいきょうのround関数 - hnwの日記

浮動小数点数の丸めにおいて丸め桁数を指定でき、それでいて精度を失わないようなround関数をCで実装してみました。 https://github.com/hnw/precise-round 実装としては、受け取った浮動小数点数から最短になる10進表記に変換し、浮動小数点をズラすことなく10進表記のまま四捨五入を行うものです。これを元に偶数丸めを実装するのも容易でしょう。 実際、前回記事「RubyとPythonとC#のround関数のバグっぽい挙動について」で指摘した5.015の例についても期待通りに丸めることができます。 #include <stdio.h> extern double precise_round(double x, int digits); int main() { printf("%f\n", precise_round(5.015, 2)); // 5.02 prin

[tanimina]

cf.http://blog.practical-scheme.net/shiro/20131229-flonum-rounding 「double, int -> double であるような「10進n桁で丸める」関数を考えるのが間違いなのかもしれない」

[kazuyadesse]

さいきょ〜( ´ ▽ ` )ﾉ

[ryotarai]

via Pocket

[kasumani]

ぼくのかんがえたさいきょうのround関数 浮動小数点数の丸めにおいて丸め桁数を指定でき、それでいて精度を失わないようなround関数をCで実装してみました。 Tags: from Pocket January 01, 2014 at 08:03AM via IFTTT

[ghostbass]

なるほど、ここに落ち着くのなら前回エントリーにも納得です。