.NET Core上で実数演算すると結果がズレる - Qiita

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? TL;DR .NET Core(2.2)上で倍精度浮動小数点を使った演算を行うと、同じ順序で計算させても環境によって計算結果がズレるから、比較するときとか注意すべきではないかと考える1。 実際やったこと 実行したテストの内容は以下の通り [-90°,+90°]の区間を1°につき128分割してその弧度を計算した。 予め計算されている上記に対応した弧度を元にして、sin,cos,tan及び、sin/cosを標準のSystem.Mathを使い計算した。 弧度の計算方法 弧度の計算は、以下の二種類を利用した。以下、対応するDegreesをdとす

[rryu]

.NET Coreというよりは、x*y+zみたいな複合的な演算を行う命令が使われると丸めの回数が変わるので誤差の出方が変わるということのようだ。

[apollo440]

どれくらいズレるのかの情報が欲しい。実数演算は誤差をどう処理するかがキモなわけで。

[sgo2]

ngenにオプションは無いのだろうか/WinAPIかCのヘッダで実数演算アルゴリズムを変更出来るのを見た記憶があるのでその辺影響してる可能性も

[masaru_b_cl]

漏れのある抽象化の法則だ！