浮動小数点と固定小数点の表現について - Qiita

固定小数点と浮動小数点の求め方について備忘録代わりに簡単に書いておく。 詳しい内容が知りたい場合は適宜調べてください。 固定小数点は整数型を小数として扱う事が出来る 小数を固定する位置はソフト(ハード)の実装によって決まる。 つまり、16bitの場合こう表現することもできるし このように表現することも可能。 固定小数の構造 2 進数の場合、小数では桁が下がるにつれ 0.5 の乗数 ( 2 のマイナス乗) を表します。 例では0.9の表現を求めてみる。 10進数の小数を二進数に変換するには小数部分に2を掛けて行き1.0になるまで繰り返せば良いです。 1.0を超えたら1を引いた値に2を掛けていく。 上から順に左→右に埋めていけばよい 小数部8bitなら0.8984375となります 小数部3bitなら0.875となります 結論：表現できるbit数が少ないと誤差が大きくなる。 IEEE754 とい

[santhiagoman]

固定小数点数