小数の表現
コンピュータでの表現 二進でも十進でも循環小数を有限桁で表現しようとすると不正確になるのは同じです。しかし十進の小数を二進で表現すると循環小数になることが多く根本的に問題を抱えていることになります。 固定小数点数 固定小数点で表現する方式。ビット列のどこかに小数点があると決めて計算します。 たとえば、簡単のために４ビットで考えて、右から１桁目と２桁目の間に小数点があるとすれば、 ０１１１ は、11.1のことで、十進にすると3.5となります。 この表記法では（負の数は考えないとして）0から7.5までしか表現できないことからわかるように表現できる範囲が狭くなります。 コンピュータで小数を扱うのは普通次の浮動小数点数です。 浮動小数点数 浮動小数点数は単に小数部を持つ数だけではなく、整数型の表現の限界を越える大きな数を扱う方法としても重要です。 科学技術の分野では数値の次のように表現します。 4
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
負の数の表現
