当たり前のことに感じますが、0.1は浮動小数点数(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事ではPython 3.7を使用しています。 【前提】浮動小数点数 この記事で、以降"浮動小数点数"という場合は、"IEEE 754 倍精度"のことを指します。 浮動小数点数のフォーマットは、数を以下の形式に変換し、sign、exp、fracを順に並べたものです。
![0.1は浮動小数点数で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/c59a1662b706c0699dbc01537a5ce22927a32903/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9MC4xJUUzJTgxJUFGJUU2JUI1JUFFJUU1JThCJTk1JUU1JUIwJThGJUU2JTk1JUIwJUU3JTgyJUI5JUU2JTk1JUIwJUUzJTgxJUE3JUU2JUFEJUEzJUU3JUEyJUJBJUUzJTgxJUFCJUU4JUExJUE4JUUzJTgxJTlCJUUzJTgxJUFBJUUzJTgxJTg0JUUzJTgxJUFFJUUzJTgxJUFCJUUzJTgwJTgxcHJpbnQlRTMlODElOTclRTMlODElOUYlRTMlODElQTglRTMlODElOEQlRTMlODElQUIwLjElRTMlODElQTglRTglQTElQTglRTclQTQlQkElRTMlODElOTUlRTMlODIlOEMlRTMlODIlOEIlRTMlODElQUUlRTMlODElQUYlRTMlODElQUElRTMlODElOUMlRTMlODElOEImdHh0LWFsaWduPWxlZnQlMkN0b3AmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZzPTUzODVjNDJlZjhiNDJmZTRiYjJiMTc0MDI4OGM3N2Rj%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDB5dWNhdGlvJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz00NjFlODk3YjdjOGMwN2UzNGU0Nzc3NTY5YTUwMzY3OQ%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D690f2613ddd8d9d13d0dac67c4fdcffe)
当たり前のことに感じますが、0.1は浮動小数点数(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事ではPython 3.7を使用しています。 【前提】浮動小数点数 この記事で、以降"浮動小数点数"という場合は、"IEEE 754 倍精度"のことを指します。 浮動小数点数のフォーマットは、数を以下の形式に変換し、sign、exp、fracを順に並べたものです。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く