浮動小数点数 Tips

浮動小数点数の表現に関する、特徴的な部分や罠にはまりそうな部分の非包括的すぎるメモ。浮動小数点数がおおざっぱに x * (2 ** y) みたいに表現されていることは知っているけど、詳細はよく知らんという向け。 正規化数と非正規化数 浮動小数点数の符号化方式として標準的な IEEE754 では、 ± (1.xxxx) * 2 ** (yyyy - bias) // xxxx, yyyy は二進数 の形で符号、仮数部 xxxx 、指数部 yyyy を符号化する。仮数部の 1 は符号化しないのがポイント。 1-bit 節約できる以上に、仮数部が自然に [1, 2) の範囲に制限され、任意のビット列 xxxx yyyy と浮動小数点数が (だいたい) 1:1 対応するのが気持ちいい。この形で表される数を正規化数と呼ぶ。 ただ、このままでは表現できる値の絶対値に下限ができてしまう。0 も表現できな

[y_r]

浮動小数点の非正規化数 (0.xxxxx + * 2 ^ (min_exp + 1)) のはなし

[hotoku]

為になった。

[akihiro4chawon]

subnormal number float floating point IEEE 754 denormal denormalized 浮動小数点数 非正規化数

[nyop]

メモメモ

[pipehead]

正規化数と非正規化数, 特殊な数の表現