浮動小数点の限界を知るためにビットパターンで演算を確認する - Qiita

この記事について 浮動小数点はほぼ全てのコンピューター上でサポートされており数値計算をする上で非常に便利ですが、演算精度の予測が困難であり、移植性に課題があります。 その課題を理解するため、浮動小数点で表現される数値について単精度浮動小数点を例にビットパターンレベルで確認します。 その上で、浮動小数点の演算で誤差が生じる原因である端数処理(丸め処理)について実験コードを用いて記載し、浮動小数点演算のイメージをつかみます。 浮動小数点の問題 $x, y$が単精度浮動小数点の場合、$ x+y-y \neq x $となる場合がある 0.01を100回加算すると、結果は0.999999となる 普通の計算においては全く成立しないような結果が、浮動小数点の計算では発生します。これは浮動小数点が実際は実数ではなく、有限個の値を表現した数値表現であることが原因です。 浮動小数点の定義 単精度浮動小数点の定