double演算で保証される精度 - awakia-n's blog自分の書いたdoubleを使ったプログラムが何桁保証されているのかわかんねぇ〜とか思ってただけで自分でちゃんと考えてみたことがなかったことに気づいたので自分で考えてみようと思う。間違ってたら教えてください。 参考にしたところ Wikipediaの記事を参考にした。 倍精度 - Wikipedia 誤差 - Wikipedia doubleの基礎 doubleのbit配置 syyy yyyy yyyy xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx s : 符号 (1) y : 指数部 (11) x : 仮数部 (52) 精度が何桁かという話に関連してくるところは仮数部xなので、ここの話をする。 仮数部というのは、数値を2進数で 1.xxxx.... * 2^yyyのように表した時の xxxx....を表す部分
