Lossless Compression of Predicted Floating-Point Values
abstract: The size of geometric data sets in scientific and industrial applications is constantly increasing. Storing surface or volume meshes in standard uncompressed formats results in large files that are expensive to store and slow to load and transmit. Scientists and engineers often refrain from using mesh compression because currently available schemes modify the mesh data. While connectivit
浮動小数点数 Tips
浮動小数点数の表現に関する、特徴的な部分や罠にはまりそうな部分の非包括的すぎるメモ。浮動小数点数がおおざっぱに x * (2 ** y) みたいに表現されていることは知っているけど、詳細はよく知らんという向け。 正規化数と非正規化数 浮動小数点数の符号化方式として標準的な IEEE754 では、 ± (1.xxxx) * 2 ** (yyyy - bias) // xxxx, yyyy は二進数 の形で符号、仮数部 xxxx 、指数部 yyyy を符号化する。仮数部の 1 は符号化しないのがポイント。 1-bit 節約できる以上に、仮数部が自然に [1, 2) の範囲に制限され、任意のビット列 xxxx yyyy と浮動小数点数が (だいたい) 1:1 対応するのが気持ちいい。この形で表される数を正規化数と呼ぶ。 ただ、このままでは表現できる値の絶対値に下限ができてしまう。0 も表現できな
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
http://www.vldb.org/pvldb/vol8/p1816-teller.pdf
