>> repr(float) が有効数字 17桁の値を生成するのは、この値が (ほとんどのマシン上で) 、全ての有限の浮動小数点数 x について eval(repr(x)) == x が成り立つのに十分で、かつ有効数字 16 桁に丸めると成り立たないからです。

pipehead のブックマーク 2008/09/27 21:38

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/18976495/comment/pipehead" data-user-id="pipehead" data-entry-url="https://b.hatena.ne.jp/entry/s/jutememo.blogspot.com/2008/09/python-3-float-decimal.html" data-original-href="https://jutememo.blogspot.com/2008/09/python-3-float-decimal.html" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fjutememo.blogspot.com%2F2008%2F09%2Fpython-3-float-decimal.html" data-user-icon="/users/pipehead/profile.png">Python で正確な小数の計算 (3) – float, Decimal の有効桁数 | すぐに忘れる脳みそのためのメモ</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/programming">programming</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/python">python</a>]</li></ul><br><p style="clear: left">&gt;&gt; repr(float) が有効数字 17桁 の値を生成するのは、この値が (ほとんどのマシン上で) 、全ての有限の浮動小数点数 x について eval(repr(x)) == x が成り立つのに十分で、かつ有効数字 16 桁に丸めると成り立たないからです。</p><a class="datetime" href="https://b.hatena.ne.jp/pipehead/20080927#bookmark-18976495"><span class="datetime-body">2008/09/27 21:38</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！