標準ライブラリーが提供する数学関数はどのくらい正確か、あるいはどの程度環境依存するのか

大抵のプログラミング言語では、数の四則演算だけではなく、exp や sin や pow などの数学関数が提供されています。この記事では、これらの数学関数について どのくらいの精度が期待できるのか？ どのくらい再現性があるのか？ という話題を扱います。 正確な計算は難しい 無限大やNaNを除く有限の浮動小数点数は、数学的な実数を表していると考えられます。例えば、1.5 という浮動小数点数なら1.5という実数に対応します。ソースに 0.1 と書いた浮動小数点数が数学的には 0.1000000000000000055511151231257827021181583404541015625 という実数に対応することもあるかもしれませんが、何らかの実数に対応していることは確かです。 そこで、四則演算や数学関数の仕様としては「与えられた浮動小数点数を正確な実数とみなし、演算を適用し、得られた実数に最も

[suka6411144]

"GCCは数学関数の値の定数畳み込みにMPFRを使い、コンパイル時の計算を正しい丸めで行う" GCCのビルドにMPFRがいるのってこれのせいだったのか、LFSをやったときに疑問に思ってた

[nakag0711]

言語標準の浮動小数点数演算ってFPUなりSSE2なりの命令の結果がそのまま返されるのだと思ってた

[nanika-sheila]

gcc、コンパイル時の最適化とランタイムで計算結果違うの知らなかった。浮動小数点数の丸めはEXCELで苦しめられた覚えがある。

[turanukimaru]

正確かが気になるときは実数・有理数ライブラリを使うので標準ライブラリの精度は普段気にならない気がするのだが。

[kkobayashi]

関数というより浮動小数点の問題な気はする。金融系のシステムが普通の四則演算でも誤差でちゃうからBigDecimalを使うみたいな

[mohno]

「標準ライブラリーが提供する数学関数」←今どきの処理系ならCPUの浮動小数演算命令を使うと思うんだが、そうでもないのか？/あと16進浮動小数定数を実用で使ってるケース、はじめて見たと思う。

[bocuno]

なんだかよくわからんけどエクセルの関数は間違うってことやな！電卓で検算すべなんやな！

[aya_momo]

個人的には環境によって変わるより言語によって変わる方が困る。今のところそれで困ったことはないが。

[magnoliak]

これは必読だ

[uunfo]

疑う発想がなかったが確かに信じる根拠もないか／正確性より処理系で結果が違う方が問題となりうる？／「C/C++で数の2乗を計算するために安易に pow 関数を使うべきではない」

[pico-banana-app]

浮動小数点の闇。同じ計算でもOSやCPUで結果が違うとか、厳密さが求められる現場は発狂もんだろ。非常に読み応えのある検証