浮動小数点、その中身とは « demoscene.jp

Tweetこんにちは、Falken/brainstormです。 デモの中では、映像を表示するには色んな数学計算が行われてますね。整数計算は簡単だと思いますが、FPUの小数点はどう計算しているのかと考えたことありませんか？そもそも、floatの中の32ビットはどんな意味を持つのでしょう？ 今日の記事はIEEE 754を判りやすく説明いたします。 floatの構造体 では、floatの32ビットの中の割り当てるビットを見ましょう。 floatのビットは3つの部分に別けられてますね。 sign bitは1ビットであり、符号という意味。このビットが0の場合は正の数、1の場合は負の数です。 exponentは8ビットであり、指数部という意味。簡単で言うと、この8ビット分は、基数2で小数点の位置が決められます。 mantissaは残りの23ビットで仮数部という意味。指数部で決められた幅の中で、この23

[nishidy]

合わせて読みたいhttps://bugs.ruby-lang.org/issues/12209#note-3

[pipehead]

ビットフィールドで float の符号部・指数部・仮数部の中身を見る; 無限大, 非正規化数, QNaN, SNaN, 正規化数 (normalized float)