タグ

ブックマーク / hwb.ecc.u-tokyo.ac.jp (2)

  • 18.3.3 浮動小数点表現の精度・範囲と特別な値 | HWB

    浮動小数点表現で表せる数の精度や,特別な値の表現を調べましょう. 浮動小数点の精度 既に前節 18.3.2 浮動小数点表現 で見たように,浮動小数点表現では,ほとんどの 10 進小数を近似的にしか表すことができません.その数値の精度は仮数部の桁数で決まります.また,指数部の桁数は表現可能な数値の範囲に影響します.IEEE 754 の単精度浮動小数点数を例に,精度と桁数を調べてみましょう. まず前節で説明した,(通常の)浮動小数点表現の定義を思い出しておきます. 数値 = (−1)符号部×(1.仮数部)×2指数部−bias 単精度では仮数は 23 ビット使うので,仮数部の取る値は次のいずれかになります.

    pipehead
    pipehead 2012/04/19
    オーバーフロー (overflow), アンダーフロー (underflow), ゼロ, 非正規化数, 無限大 (∞), 非数 (NaN)
  • 18.3.2 浮動小数点表現 | HWB

    pipehead
    pipehead 2012/04/19
  • 1