LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ

LibreOffice CalcとExcelでフィボナッチ数列を計算すると結果に違いが生じたそうです。 丸め誤差の処理の差では?という予想はつきましたが、調べられなかったので検証をお願いをしたところ、いろんな事がわかったのでまとめました。 最後、奥村先生の話の中で、以前のExcelの誤差の丸め方が少し違うようなので注意が必要そうです

[rideonshooting]

あまり高度な計算をただの表計算ソフトにさせるべきではない、と。

[TakamoriTarou]

Excelやlibreofficeはこんなもんでいいとして、某著名CADのマクロがこれよりもっと酷い丸め誤差を含む仕様になっててまるで使えなかったのを思い出した。CADがこれじゃ困るんだがと言ったら仕様と言い放ちやがって

[satomi_hanten]

IEEE 754に準じてるかどうかの話じゃなくて？LibreOfficeってJavaで書いてんの？ならBigDecimalにしてほしいが。

[el-condor]

規格にないアドホックなブラックボックスというのは怖いよねえ。必要な精度が高い計算には使うなということだよね。まあそういうものではある。

[gnety]

Excelは整数に限りなく近い値を整数に自動で丸める機能があるのか？

[mandel59]

真の値と丸めた値の差の大きさが問題になる科学技術計算と違って、財務計算は10進数の丸めと2進数の丸めの差を問題にする、そこがこの問題の本質だよね。最初から10進数で計算すれば悩まずに済むのだが……

[togetter]

浮動小数点の処理って普通のプログラミングでも間違えることあるし難しいよね…

[gogatsu26]

“Haruhiko Okumura @h_okumura 昔調べたことですが，Excelの不動小数点演算はおかしな（まずい）ことをしているようです oku.edu.mie-u.ac.jp/~okumura/softw… twitter.com/MinatoNakazawa…”

[sc_watcher]

へー。