subnormal number float floating point IEEE 754 denormal denormalized 浮動小数点数 非正規化数

akihiro4chawonakihiro4chawon のブックマーク 2011/09/04 13:57

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

浮動小数点数 Tips

    浮動小数点数の表現に関する、特徴的な部分や罠にはまりそうな部分の非包括的すぎるメモ。浮動小数点数がおおざっぱに x * (2 ** y) みたいに表現されていることは知っているけど、詳細はよく知らんという向け。 ...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう