うっかりしそう “Decimalに渡す値は文字列にすべきという点だけ気をつけましょう。float型で渡した場合、すでに精度が低い状態となっているために計算結果が不正確となります。”

jakalada のブックマーク 2019/07/30 17:37

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4672279853047428962/comment/jakalada" data-user-id="jakalada" data-entry-url="https://b.hatena.ne.jp/entry/s/dev.classmethod.jp/articles/decimal-howto-method/" data-original-href="https://dev.classmethod.jp/articles/decimal-howto-method/" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fdev.classmethod.jp%2Farticles%2Fdecimal-howto-method%2F" data-user-icon="/users/jakalada/profile.png">PythonでのDecimalで「文字列化」「精度維持」等のよくある「こうしたい」を試してみた | DevelopersIO</a><br><p style="clear: left">うっかりしそう “Decimalに渡す値は文字列にすべきという点だけ気をつけましょう。float型で渡した場合、すでに精度が低い状態となっているために計算結果が不正確となります。”</p><a class="datetime" href="https://b.hatena.ne.jp/jakalada/20190730#bookmark-4672279853047428962"><span class="datetime-body">2019/07/30 17:37</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

PythonでのDecimalで「文字列化」「精度維持」等のよくある「こうしたい」を試してみた | DevelopersIO

dev.classmethod.jp2019/07/30

はじめに金融や会計等の高精度をする場合にPythonではDecimalの利用が好ましいのですが、用途故に利用頻度もそこまで高くなく、実際に使ってみると慣れないうちはモジュールの動作に振り回されるような感覚に陥...

6 人がブックマーク・1 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

PythonでのDecimalで「文字列化」「精度維持」等のよくある「こうしたい」を試してみた | DevelopersIO

はてなブックマーク

公式Twitter

はてなのサービス