浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ | POSTD

浮動小数点数はどこにでもあります。これを使わないソフトウェアは、簡単には見つかりません。ソフトウェアの記述に不可欠な何かのために、浮動小数点数を扱う際に私たちが非常に注意を払っているのだと思われるかも知れませんが、普通はそうではありません。多くのコードでは、浮動小数点数は実数として扱われ、多くのコードが無効な結果を生みます。この記事では、浮動小数点数の反直感的な性質をいくつか紹介します。 これらの性質は、計算を正確に行うために知っておかなければならないことです。 x + y == x この第1の規則は、大きさの規則です。加算および減算をする際、お互いの数が他方の数に対して、有意味な結果を生めるだけの大きさが必要です。ここで大きさは、指数部の差を尺度とします。 例えば、値 1e-10 の大きさは、 1e10 に比べてとても小さいです。通常の64ビット浮動小数点数では、この小さな数を好きなだけ

[tanakh]

セクションのタイトルわかりづらくないですか

[ad2217]

はいはい、やらかしましたよ。ちなみに int も整数じゃないよ。

[umai_bow]

大事

[doublehorn93]

浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ

[kjw_junichi]

浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ | コンピュータサイエンス | POSTD

[bleu-bleut]

型 float /

[naga_sawa]

これ、基本情報のテキストで見たヤツだ！/変数触ってるときとか『これは浮動小数』って意識してないと無限ループ生んじゃったりするから注意しないといけないある種の地雷

[Nyoho]

指数部分の違いによって数直線上の配置がばらばらで一定じゃないことも特に注意がいるよね。float

[KAZUMiX]

モバイル GPU は float のさらに半分の half だったりするから（震え声） モバイルGPUの精度のばらつき → http://www.youi.tv/mobile-gpu-floating-point-accuracy-variances/

[yohshiy]

浮動小数計算の注意点のまとめ。

[nimroder]

Javascript: 0.1 + 0.2 == 0.3 // false

[monamour555]

「浮動小数点数はどこにでもあります。これを使わないソフトウェアは、簡単には見つかりません。」 /// 浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ | コンピュータサイエンス | POSTD

[androidzaurus]

(1/3)*3

[embedded]

ケチってdouble(倍精度)の代わりにfloat(単精度)を使うとこの手の落とし穴にはまる危険度が高まる。

[p260-2001fp]

関連：セキュアコーディングスタンダード NUM04-J. 正確な計算が必要なときは浮動小数点数を使わない https://www.jpcert.or.jp/java-rules/num04-j.html

[frkw2004]

翻訳がいまいち。「大きさの小さい数の違い」では伝わらない。計算機では、浮動小数点はもともと実数とは言わないのでは。小数点を含む/含まないで整数/実数と分けることはあるけど。数学で言う実数ではない。

[omaya]

a≒bのときにa-bの有効桁が落ちる問題(これは浮動少数特有の問題じゃないけど)にも注意。あと固定少数点方式にも触れておくべきかと。

[qtamaki]

誤差出るからね

[momontyo]

そんな関わったこと無いけど、よく目にするお話。しかしこうも面倒が多いとプリミティブ型としてどうなのって感じもするが、機械語的に存在するんだし仕方ないか。

[y-koshi]

浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ