サクサク読めて、アプリ限定の機能も多数!
IEEE 754に準じてるかどうかの話じゃなくて?LibreOfficeってJavaで書いてんの?ならBigDecimalにしてほしいが。
satomi_hanten のブックマーク 2019/06/19 17:26
LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめIEEE 754に準じてるかどうかの話じゃなくて?LibreOfficeってJavaで書いてんの?ならBigDecimalにしてほしいが。2019/06/19 17:26
このブックマークにはスターがありません。 最初のスターをつけてみよう!
togetter.com2019/06/19
LibreOffice CalcとExcelでフィボナッチ数列を計算すると結果に違いが生じたそうです。 丸め誤差の処理の差では?という予想はつきましたが、調べられなかったので検証をお願いをしたところ、いろんな事がわかった...
51 人がブックマーク・9 件のコメント
\ コメントが サクサク読める アプリです /
IEEE 754に準じてるかどうかの話じゃなくて?LibreOfficeってJavaで書いてんの?ならBigDecimalにしてほしいが。
このブックマークにはスターがありません。
最初のスターをつけてみよう!
LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ
LibreOffice CalcとExcelでフィボナッチ数列を計算すると結果に違いが生じたそうです。 丸め誤差の処理の差では?という予想はつきましたが、調べられなかったので検証をお願いをしたところ、いろんな事がわかった...
51 人がブックマーク・9 件のコメント
\ コメントが サクサク読める アプリです /