第10回 引き算はコンピュータの弱点［前編］ | gihyo.jp

コンピュータで実数を表現するために工夫された浮動小数点数は、仮数部分をで近似する方法です。 取り扱える数の範囲や精度は、指数部と仮数部の桁数によって決まります。このしくみは自由に伸び縮みさせることができる伸縮性の物差しに例えることができます。大変便利なのですが、コンピュータの物差しは目盛りに無い数値は取り扱うことができません。数値が目盛りと目盛りの間に存在する場合は、何らかの約束事に従って、どちらかの目盛りを読み取ります。このようにして読み取った値は近似値といい、真の値との間に誤差があります。 コンピュータで計算を行う人は、このことをよく知っておきましょう。コンピュータは万能ではありません。大変便利な機械ですが、より大きな利便を得るためにちょっとした妥協をしています。時によってはこの妥協が大きな計算違いを生むことがあるのです。プロとしてコンピュータを用いるならば、この妥協による誤差がどんな