エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
PythonでのDecimalで「文字列化」「精度維持」等のよくある「こうしたい」を試してみた | DevelopersIO
はじめに 金融や会計等の高精度をする場合にPythonではDecimalの利用が好ましいのですが、用途故に利用... はじめに 金融や会計等の高精度をする場合にPythonではDecimalの利用が好ましいのですが、用途故に利用頻度もそこまで高くなく、実際に使ってみると慣れないうちはモジュールの動作に振り回されるような感覚に陥ります。 約一ヶ月程度Decimalに振り回されつつ、どのように扱えばいいのか判ってきた範囲でまとめてみました。 Decimalを使うべきシーン 浮動小数点を交える数値及び計算が対象です。float型では正確に計算できないケースにも対応できます。 >>> float('0.3') - float('0.2') 0.09999999999999998 >>> from decimal import Decimal >>> Decimal('0.3') - Decimal('0.2') Decimal('0.1')



2019/07/30 リンク