clang-karuma.netclang-karuma.net 2024 著作権. 不許複製 プライバシーポリシー
固定小数点演算
普段何気なく使っているＣ言語でいうところのfloat等の浮動小数点があるが、これらを使った計算は遅い。よく練られているゲームや高速性が求められるような所では浮動小数点は使われていない。それは、コンピュータの画面座標が整数値であり、座標計算は小数部分があっても最終的には整数部分しか用いず、また、浮動小数点演算に相当する処理を整数のみで置き換えることが出来るからである。このページではこの演算に関する考え方や、誤差、実際の例、応用等に関して説明して行こうと思う。 固定小数点の発想の原点 コンピュータの中の固定小数点 固定小数点演算の基本 固定小数点演算の実際 固定小数点演算の応用例 固定小数点演算の例題 最初、固定小数点の元となる考えは固定小数点ではなかった。このような計算を行う時にある程度の数値的な精度が確保されていれば、小数点以下の重みを表現できる。つまり、その時にはアナログ的
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
