floatをもとにBigDecimalオブジェクトを作成する。 - 未来を愛すべきこと-Javaやったり技術書読んだり
doubleからBigDecimalオブジェクトを作成する場合、 BigDecimal bd = new BigDecimal(doubleVal); としてしまうと、浮動小数点で正確に表せない数値の場合、期待結果とズレる場合があります。 Javadocの BigDecimal(double) コンストラクタから引用↓ Oracle Technology Network for Java Developers | Oracle Technology Network | Oracle # 一方、String コンストラクタは完全に予測可能である。new BigDecimal("0.1") と記述すると、「正確に」 0.1 と等しい BigDecimal が作成される。そのため、通常は、これの代わりに String コンストラクタを使用することが推奨されている # BigDecimal のソー
Javaでの数値計算の誤差や限界値 - kmkのメモ帳
int型の計算誤差 int型同士の[掛け算、足し算、引き算]で誤差が発生するのはint型の最大値を超えてしまった場合か、最小値を下回ってしまった場合のみです。尚、当たり前ですが少数点を含む数値はだめです。整数に限ります。 int型の最大値 = 2147483647 int型の最小値 = -2147483648 この値を超えないよう注意さえすればint型では掛け算、足し算は誤差なく実施できます。 ただし、int型は小数点を切り捨てるため、割り算では大抵誤差が発生します。 例：1/2 = 0.5 0.5はint型では0として扱われるため 1/2 = 0 となってしまう。 double型の誤差について double型では値を格納する際に誤差が発生する可能性があります。 そのため、どのような計算でも誤差が発生する可能性があります。 尚、double型が扱える範囲は 最大値 1.79...E+308
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
