“Haruhiko Okumura @h_okumura 昔調べたことですが,Excelの不動小数点演算はおかしな(まずい)ことをしているようです oku.edu.mie-u.ac.jp/~okumura/softw… twitter.com/MinatoNakazawa…”

gogatsu26gogatsu26 のブックマーク 2019/06/19 14:31

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ

    LibreOffice CalcとExcelでフィボナッチ数列を計算すると結果に違いが生じたそうです。 丸め誤差の処理の差では?という予想はつきましたが、調べられなかったので検証をお願いをしたところ、いろんな事がわかった...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう