float roundingUNIX系OSでの、 浮動小数点演算の丸めについて たけおか 初出: 2010/NOV/20 update: 2010/NOV/23 FreeBSD6に関してと、おまけを追記 0.はじめに 浮動小数点演算を行うにあたって、ユーザ(プログラマ)は、精度を管理しなければならない。 丸めは重要な要素である。 浮動小数点演算を行うごとに、その結果を丸める。 IEEE 754(通称 IEEE Float)は、丸めの方法を制御可能としている。 また、言語処理系 C99では、丸めの指定方法を規定している。 ただし、ハードウェアの制約などで指定や変更が、不可能な場合もある。 ここでは、MacOSX(PPC), x86のFreeBSD, NetBSD, Linuxや C99(ISO C言語規格)の 丸め指定方法について記述している また、末尾におまけとして、ソフトウェアによる四捨五入の方法を記述している。
Common Lisp and IEEE 754
IEEE portal
