エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
浮動小数点数
まず、0.375を2進表現すると 0.011 になります。 言いかえれば、 0.011 * 2の0乗 です。 この値は 0.11... まず、0.375を2進表現すると 0.011 になります。 言いかえれば、 0.011 * 2の0乗 です。 この値は 0.11 * 2の-1乗 に等しくなります。 ここで、浮動小数点の形式を「符号1ビット、指数7ビット、仮数24ビット」と仮定すると、 符号:正の数なので 0 指数:2の-1乗。-1の2の補数 1111111 仮数:0.11の「0.」を取り除き、下位ビットに0を埋め 110000000000000000000000 このようになります。これを並べると 0 1111111 110000000000000000000000 となり、16進数表現で 7FC00000 となります。 これを 0.011 * 2の0乗 のまま正規化せずに浮動小数点形式にしてしまうと 符号:正の数なので 0 指数:2の0乗。0は 0000000 仮数:0.011の「0.」を取り除き、下位ビットに0を埋め