タグ

2013年7月18日のブックマーク (1件)

  • 固定小数点演算

    普段何気なく使っているC言語でいうところのfloat等の浮動小数点があるが、これらを使った計算は遅い。よく練られているゲームや高速性が求められるような所では浮動小数点は使われていない。それは、コンピュータの画面座標が整数値であり、座標計算は小数部分があっても最終的には整数部分しか用いず、また、浮動小数点演算に相当する処理を整数のみで置き換えることが出来るからである。このページではこの演算に関する考え方や、誤差、実際の例、応用等に関して説明して行こうと思う。 固定小数点の発想の原点 コンピュータの中の固定小数点 固定小数点演算の基 固定小数点演算の実際 固定小数点演算の応用例 固定小数点演算の例題 最初、固定小数点の元となる考えは固定小数点ではなかった。このような計算を行う時にある程度の数値的な精度が確保されていれば、小数点以下の重みを表現できる。つまり、その時にはアナログ的

    fujiruki
    fujiruki 2013/07/18
    小数がそんなに必要ないからこれいいな!乗算器がないコンピュータで速さ調べたい。