コンピュータでおかしなことになる計算例 (1) - 小清水さんとコンピューター数学

小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て：(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか？ 浮動小数点数 と呼ばれる数で表されることが多いです。 例えば、 はどうでしょうか？ この円周率は コンピュータ内部において、 という 浮動小数点数 で近似されます。(単精度を使用した例) 2進法ではわかりづらいため、この数を 10進法 でかいてみると 3.141592 7410125732 という数になります。 本来の値は 3.141592 65358979 … なので 誤差 が生じたことになります。 この誤差を 丸め誤差 というわけです。 丸め誤差って何なのか、詳しく知りたい方はこちらをどうぞ！ math-koshimizu.hatena