並列処理時代の演算の一意性 - potasiumchの日記

足し算の答えが一意に決まるなんて昔話になるかも、というお話。 確認した範囲では、MATLAB 7.8 (2009a, 64bit) に足し算をさせる（たとえばサイズが500,000x1の行列の各要素を全部足す）と、その答えは一意に決まらない。全く同一のデータについて同じPC・環境で繰り返し計算させて、ほぼ毎回違う答えが返ってくる。 これについてMathWorks社（の少なくとも一社員）の見解が書かれているページを見つけた。 Comparing Single-threaded vs. Multithreaded Floating Point Calculations Loren on the Art of MATLAB December 4th, 2009 彼女の見解を要約すると、 浮動小数点数を用いた演算において、足し算は結合法則を満たさない（ a+(b+c) ≠ (a+b)+c ）。 演

[blackshadow]

数式上では（a+b）+c=a+(b+c)でも、計算機上の浮動小数点演算だと桁落ちの関係で等号が成立しないという話。確かにうっかりやっちまいがちな話なんで、科学計算やるときは特に気をつけないとなー。

[kei_kei]

[浮動小数点数を用いた演算において、足し算は結合法則を満たさない

[el_flamen]

私が無知なだけですが、現代において浮動小数点数を使うメリットとは?

[zu2]

桁落ちって古典的な問題だったけど、こんなところで可視化されるとは。

[kalessinlord]

気をつけよう

[S0R5]

「浮動小数点の足し算は結合則を満たさない」

[kgbu]

浮動小数点演算を並列で実行すると、、、順番がダイナミックに替わるなら、結果も変わり得る。昔は桁オチしないように計算の順番を工夫したりしてたんだろうから、これは当然なのかー。

[nanakoso]

「浮動小数点の足し算は結合則を満たさない」肝に銘じる

[tonets]

ほおお

[Nagise]

とはいえ、ある範囲の誤差におさまるだろうから、工学的にはそれほど問題にはならないだろうな。

[imo758]

桁落ち周りとかか。なるほど。

[nminoru]

これはすごい古典的な問題。時間があったらコメントしよう。ISBN:0805327304はどこに言ったっけ。