PythonのDecimal型(10進数浮動小数)で小数を比較する | たくのこ Web多くのプログラミング言語で数値は2進数で表されます。 整数を表す際には問題無いのですが、小数を表現する際には問題になったりします。 これはPythonも同様です。 この記事で用いるプログラムはPython3(Anaconda 2.1.0)のインタラクティブシェルを利用して実行した結果です。 実行結果は以下の規則に従って記載します。(インタラクティブシェルの貼り付け) >>> 実行コマンド 出力 >>> print("hoge") hoge 問題点 具体例で示したいと思います。 >>> 0.1*3 0.30000000000000004 a*3は0.3になって欲しいところですが、謎の0.300…004が入っています。 これはプログラミングを勉強したことがある方ならどこかで聞いたことがあると思いますが、2進数では(2^-nの和で表せない)小数を正確に表すことができず、実は微妙にズレた値になって
