タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

統計と科学に関するkutekenのブックマーク (1)

  • 5を切り上げるか切り捨てるか(数値の丸め) - 技術系サラリーマンの交差点

    「図解入門 よくわかる最新分析化学の基と仕組み」に対していただいたコメントが10ほどになりました。を読んでいない人にもわかるように、一つずつこのブログで補足説明をしていこうと思います。 比較的単純なテーマから。今回は数値の丸めについて。 普通の四捨五入 「丸め」というのは、測定値などの最後の何桁かを切り捨てたり切り上げたりして少ない桁数の数値にする操作です。誰でも小学校で教わる「四捨五入」は丸めの一法です。四捨五入では、丸める桁の数字が4以下なら切り捨て、5以上なら切り上げ、0ならそのまま・・・ですね。 JIS Z 8401の規則A ところが、四捨五入では困ったことがあります。それは、多数の数値を四捨五入によって丸めた場合、平均するとわずかに正の誤差が生じることです。 なぜなら、切り捨てられるのが1,2,3,4の4個、切り上げられるのが5,6,7,8,9の5個の数字なので、全体として切

    5を切り上げるか切り捨てるか(数値の丸め) - 技術系サラリーマンの交差点
  • 1