第12回 丸め誤差と情報欠落 | gihyo.jp
コンピュータの処理能力は有限です。これを最大限に活用するために仕方なく生じる誤差があります。コンピュータを使う我々は、この誤差に上手に対処する必要があります。 それはちょうど、のこぎりの刃の厚みに例えることができます。のこぎりで木を切るためには、刃の厚みが薄ければ薄いほど便利です。しかし、あまりに刃が薄いと、引くときは良いのですが押すときに刃がしなってしまいます。のこぎりの刃の厚みは、使いやすさの視点から現在の厚みに落ち着いているわけです。 道具は使いやすさのために、なにがしかの妥協を必要とする点があるものです。上手にコンピュータで計算を行うために、今回の項目をしっかり理解しておきましょう。 図12.1 道具の弱点を逆に活かすのが「技」 浮動小数点数で発生するエラーや誤差 浮動小数点数の仕組み上避けられないエラーや誤差には次に挙げるものがあります。 オーバーフロー／アンダーフロー 桁落ち
浮動小数点数型と誤差
有限桁 Ｃ言語で扱える実数値は，２進数の有限小数で表された数値である．例えば次のようなものである． 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも，そのうちの有限個の桁数でその値を表すしかない． 例えば，0.1 を２進数の小数で表すと 0.1(10) = 0.000110011001100110011...(2) と無限に続くが，コンピュータの内部では有限桁で丸められている． このような場合には，本当の値ではなく，近似値でしか表すことができない． 指数表記（浮動小数点表記） 科学計算では非常に大きな実数値や非常に小さな実数値も扱うことがある． そのようなときには，通常の１０進数の表記ではなくて，次のような指数表記で表すれば 無駄な 000...000 という桁を表記しなくてもよくなる． 1234567890000000000000
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「丸め誤差の対応について、皆様どうしていますか？」（1） Java Solution － ＠IT
