An Interview with the Old Man of Floating-Point
An Interview with the Old Man of Floating-Point Reminiscences elicited from William Kahan by Charles Severance 20 Feb. 1998 This interview underlies an abbreviated version to appear in the March 1998 issue of IEEE Computer. Introduction If you were a programmer of floating-point computations on different computers in the 1960's and 1970's, you had to cope with a wide variety of floating-point hard
glibcのexp(x)をいじめる - よーる
glibcのexp関数は、倍精度浮動小数点数の指数関数をソフトウェアで計算するものです。 glibcの実装（IBM Accurate Mathematical Libraryの実装を用いたもの）は、おそらく完全精度を達成しています。 完全精度とは、入力がどんな値であっても真の値に最も近い浮動小数点数に丸めた結果を返すことを言います。 しかし、これを実現するのは非常に困難であることが知られています（テーブルメーカーのジレンマ）。 glibcの実装では、以下の三ステップを踏むことで、完全精度を達成しています。 まず倍精度浮動小数点数演算とテーブル引きを駆使して近似値を求め、誤差を加味しても丸めた結果に影響がないと判断されれば、その値を返す 144bitの多倍長演算を使って近似値を求め、誤差を加味しても丸めた結果に影響がないと判断されれば、その値を返す 768bitの多倍長演算を使って近似値を求
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
