浮動小数点演算について

付録 D 浮動小数点演算について 注 - この付録は、1991 年 3 月発行の "Computing Surveys" に掲載された "Every Computer Scientist Should Know About Floating-Point Arithmetic" 稿 (David Goldberg著) を再編集し、著作権を有する Association for Computing Machinery 社 (Copyright 1991) の許可のもとに、印刷しなおしたものです。 概要 浮動小数点演算は、概して難解な問題として受け取られることがあります。コンピュータシステムの内部には、浮動小数点演算がいたるところに存在する点を考えれば、この認識には多少、現実とのずれがあるようです。たとえば、ほとんどのコンピュータ言語に、浮動小数点のデータ型が使用されています。また PC から

[rryu]

元ネタはこれ http://www.physics.ohio-state.edu/~dws/grouplinks/floating_point_math.pdf

[nanakoso]

IEEE標準の根拠と周辺の話

[higepon]

あとで読む。きっと読む。嫁。

[webmarksjp]

coding

[tree3yama]

＞ほとんどのプログラムは 10 進形式と 2 進形式の間で数値を変換させる必要がありますが、IEEE 規格はこの変換を行うための正確度を完全には指定していません。

[okagawa]

SunのEvery Computer Scientist Should Know About Floating-Point Arithmeticの和訳

[mottyunn]

誤差

[yamaz]

from ruby-list 43129

[hirose31]

IEEE 754 と IEEE 854

[zionic]

「浮動小数点演算について計算機科学者は何を知っておくべきか」

[masa_edw]

IEEE

[todesking]

“What Every Computer Scientist Should Know About Floating-Point Arithmetic ”日本語訳