タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

図解とJavaに関するunyaaのブックマーク (1)

  • BigDecimalの仕組みを図解してみた。 - いろいろ解析日記

    目次 基的な構造 スケールを変える 足し算 引き算 掛け算 割り算 基的な構造 BigDecimalは数値を整数部とスケールで表現します。スケールとは小数点以下の桁数のことです。 (例) 1.234 スケールを変える スケールの変更はBigDecimalの基的な操作です。足し算、引き算、割り算と値の比較でも使われます。 基的な考え方 スケール(小数点位置)を変更する。 なるべく、実質的に値を変えない。(例:2.5と2.50は実質的に同じ値) スケールを増やす 2.5のスケールを「2」にする例。 実質的に値を変えず、小数点以下の桁数を「2」に変える。(2.5→2.50) 小数点を除いて、実際の値(250)を整数値に転記する。 スケールを「2」にする。 スケールを減らす 2.50のスケールを「1」にする例。 実質的に値を変えず、小数点以下の桁数を「1」に変える。(2.50→2.5) 小

  • 1