丸める：計算結果の桁数の取り扱い

(1) これを一般的な電卓で計算すれば，174.4285714が得られる。 (2) レポートに報告する場合； (a) 平均値は，174.4285714 （電卓で得られた結果をすべて書く） (b) 平均値は，174.43 （小数点以下第3位あたりで四捨五入） (c) 平均値は，174 （小数点以下を四捨五入） (3) 上の(a)〜(c)で，どの答えが適切だろうか？答えは(c)である。 これは，観察値の有効桁数が3桁であり，平均の計算結果の有効桁数が3桁となるためである。言い換えれば，答え(a),(b)の小数点以下の数字は無意味な値なのである。これを正確に理解するためには，有効数字，有効桁数の概念と，それが計算によってどのようになるかを知らなければならない。 有効数字の定義に入る前に，例1の観察値についてもう少し考えてみよう。例1は，実は大学生7人の身長を測ったものであった。最初の学生（#.1

[quechang]

とちゅうから、焦点があわなく気合で下までスクロールしたが、なにを言いたいかというと「めも」。

[Mochimasa]

有効数字

[wshito]

有効桁数の丁寧な解説．