2012年10月4日のブックマーク (1件)

  • 丸める:計算結果の桁数の取り扱い

    (1) これを一般的な電卓で計算すれば,174.4285714が得られる。 (2) レポートに報告する場合; (a) 平均値は,174.4285714 (電卓で得られた結果をすべて書く) (b) 平均値は,174.43 (小数点以下第3位あたりで四捨五入) (c) 平均値は,174 (小数点以下を四捨五入) (3) 上の(a)〜(c)で,どの答えが適切だろうか?答えは(c)である。 これは,観察値の有効桁数が3桁であり,平均の計算結果の有効桁数が3桁となるためである。言い換えれば,答え(a),(b)の小数点以下の数字は無意味な値なのである。これを正確に理解するためには,有効数字,有効桁数の概念と,それが計算によってどのようになるかを知らなければならない。 有効数字の定義に入る前に,例1の観察値についてもう少し考えてみよう。例1は,実は大学生7人の身長を測ったものであった。最初の学生(#.1

    quechang
    quechang 2012/10/04
    とちゅうから、焦点があわなく気合で下までスクロールしたが、なにを言いたいかというと「めも」。