サクサク読めて、アプリ限定の機能も多数！
オーバーフロー (overflow), アンダーフロー (underflow), ゼロ, 非正規化数, 無限大 (∞), 非数 (NaN)
pipehead のブックマーク 2012/04/19 21:58
このブックマークにはスターがありません。 最初のスターをつけてみよう！
hwb.ecc.u-tokyo.ac.jp2015/12/29
浮動小数点表現で表せる数の精度や，特別な値の表現を調べましょう． 浮動小数点の精度 既に前節 18.3.2 浮動小数点表現 で見たように，浮動小数点表現では，ほとんどの 10 進小数を近似的にしか表すことができま...
2 人がブックマーク・1 件のコメント
＼ コメントが サクサク読める アプリです ／
オーバーフロー (overflow), アンダーフロー (underflow), ゼロ, 非正規化数, 無限大 (∞), 非数 (NaN)
このブックマークにはスターがありません。
最初のスターをつけてみよう！
18.3.3 浮動小数点表現の精度・範囲と特別な値 | HWB
浮動小数点表現で表せる数の精度や，特別な値の表現を調べましょう． 浮動小数点の精度 既に前節 18.3.2 浮動小数点表現 で見たように，浮動小数点表現では，ほとんどの 10 進小数を近似的にしか表すことができま...
2 人がブックマーク・1 件のコメント
＼ コメントが サクサク読める アプリです ／