浮動小数点数の2進10進変換のこと - 再帰の反復blog
浮動小数点数のわかりにくさの一因 浮動小数点数は難しいし何だか怪しげな感じがする。たぶん主な理由は 数値計算の難しさ 浮動小数点数演算の難しさ だと思う。でもこれらとは別に、 浮動小数点数を使う場合、ほぼ常に2進10進変換が介入している という理由があるような気がする。 浮動小数点数は2進小数×2のベキの形で表現されているけど、浮動小数点数を出力したり入力したりする場合は10進小数×10のベキの形で表記される。つまり 浮動小数点数演算のシステム自体(コンピュータ側の世界)は2進数だけで完結している。 逆に、浮動小数点数の表示・入力(人間側の世界)では通常、10進数だけで完結している。 この二つの世界を行き来する場合に2進10進変換がおこなわれる。 ということになる。さらにこれは、整数での2進10進変換とは全く違っている。整数の場合、2進と10進の間で変換しても表現が違うだけで全く同じ数を表
Island Life - 2進小数の10進桁での丸め
About 南の島のプログラマ。 たまに役者。 Practical Schemeの主。 WiLiKi:Shiro 最近のエントリ 無限cxr高校受験Defense振り返ってみると2019年は色々学んで楽...覚えるより忘れる方が難しい(こともある)眼鏡のつると3DプリンタIris Klein Acting ClassSAG-AFTRA conservatory: Voice Acting創作活動って自分を晒け出さねばならないと...ループを使わずに1から100までMore... 最近のコメント shiro on 歳を取ると時間が速く過ぎるのは、新しいことに挑戦しないから? (2023/03/14)1357 on 歳を取ると時間が速く過ぎるのは、新しいことに挑戦しないから? (2023/03/01)ベアトリーチェ on ハイポハイポハイポのシューリンガン (2022/04/02)ベアトリーチ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
お前らの交響曲ベスト１０あげろ！！！ : アルファルファモザイク