いまさら聞けないIT用語集 浮動小数点演算の単精度と倍精度って？ (1/3)

今回はジサトラショータ氏の「浮動小数点の単精度と倍精度って何？」という質問に答えよう。最近はこれに倍々精度や半精度も使われるようになっているので、非常にわかりにくかったりする。 計算式の桁数を抑えられる 浮動小数点 そもそもコンピューターは数字の演算に関して、整数演算と小数演算の2つに分けて実装しているのが普通である。これは「何桁まで処理する必要があるか」というニーズが根本的に違うためだ。 整数の場合、普通(なにをもって普通というかはアレだが)は10桁くらいの計算ができれば十分である。もちろん企業における会計処理などでは10桁では足りない(売上1兆円を表現するのには12桁が必要だ)が、そういう規模の大きな処理は別途考えることにすれば、9桁か10桁あれば大体用が足りる。 ところが小数の場合、そもそも何桁まで処理できれば足りるか、というのはあまりにケースバイケースすぎる。たとえば利息の計算。1

[teruzoh0209]

今回はジサトラショータ氏の「浮動小数点の単精度と倍精度って何？」という質問に答えよう。最近はこれに倍々精度や半精度も使われるようになっているので、非常にわかりにくかったりする。 from ASCII.jp － デジタル http