FP-strict 問題 - NyaRuRuが地球にいたころ

x87 FPU と決別したことで従来可能だった 80-bit 精度計算に比べて計算精度が悪化する場合もある．しかし業界標準的には SSE/SSE2 が FP-strict 準拠のためありがたい面もある．もちろん従来の x87 環境と計算結果が変わってしまう可能性があるので，ゲーム関係ではリプレイ再現性問題などに注意(id:NyaRuRu:20040820)． Java Efficient Implementation of Strict Floating-Point Semantics Numerical Computing in Java ― 演算結果の再現性と性能 その他参考資料． Microsoft Visual C++ Floating-Point Optimization Method for getting /Op like consistency in MS C++ 14.0

[marblejenka]

[c/c++]