Python で正確な小数の計算 (3) – float, Decimal の有効桁数 | すぐに忘れる脳みそのためのメモ

1. float, Decimal の有効桁数を確認しておく これまでに 「float よりも精度の高い Decimal」 、「Decimal を文字列として出力するときの str() と repr() の違い」について見てきた。 Python で正確な小数の計算 (1) - Decimal モジュールを使う Python で正確な小数の計算 (2) - Decimal の値を文字列にして、eval () で評価するときは repr 関数を使う 今回は、float と Decimal 有効桁数、str() と repr() の有効桁数について試しておく。こういうのは、一度自分で動作を確認しておかないと気持ちが悪い。 (+_+) 2. 事前準備 毎回 print 文で、式と結果を書くのは面倒。予め、与えられた式の文字列を受けとると、str() と repr() の結果を表示する関数を作成して

[pipehead]

>> repr(float) が有効数字 17桁 の値を生成するのは、この値が (ほとんどのマシン上で) 、全ての有限の浮動小数点数 x について eval(repr(x)) == x が成り立つのに十分で、かつ有効数字 16 桁に丸めると成り立たないからです。