タグ

丸め処理に関するslumbrousのブックマーク (1)

  • JIS,ISO式四捨五入 - RjpWiki

    RjpWiki はオープンソースの統計解析システム R に関する情報交換を目的とした Wiki です規則(3)は,例えば 12.345 は直に12.3と丸めるべきであって、まず12.35とし、 それから12.4としてはならないことを主張している.この規則は,丸めによる 誤差が最小になる利点がある. > round(122.5) # 五捨! [1] 122 > round(122.51) # 五入 [1] 123 > round(123.5) # 五入 [1] 124 > round(122.501) # 五入 [1] 123 計算機ソフトでは,伝統的に通常の四捨五入方式を採用してきた.市販の電卓や パソコンソフトの丸め処理法は,必ずしもJIS,ISO方式になっていないことも多く, チェックが必要であるといわれてる.(今入った情報では、Excel の丸め関数は、小学生方式、一方 VBA

  • 1