タグ

ブックマーク / kidotaka.hatenablog.com (1)

  • Javaプログラマーがjava.math.BigDecimalについて知るべきこと - きどたかのブログ

    2012/11/4追記 こっち見てもらった方がいいかも。 Javaプログラマーのためのjava.math.BigDecimalまとめ - きどたかのブログ 2012/11/4追記 終わり ざっくりと羅列してみた。 java.math.BigDecimalは、クラス説明にある通り任意精度のスケールなし整数と、32bitのスケールで構成される。つまりは、BigDecimalはBigIntegerとintで構成されている。 precisionとは「精度」であり、仮数の桁数である。仮数は任意精度のスケールなし整数のBigIntegerで、その10進表現での桁数である。 precisionは一番左から初めに現れる0以外の数字から数えた桁数である。0.03の精度は1であり、スケール2である。 BigDecimalの精度はprecisionで表現出来るが、double等の浮動小数点の精度は全体で使用する

    Javaプログラマーがjava.math.BigDecimalについて知るべきこと - きどたかのブログ
  • 1