タグ

ブックマーク / www.mmlab.mech.tuat.ac.jp (1)

  • 有効数字について

    Tokyo University of Agriculture and Technology Thermal Fluids Engineering Lab., Dept. of Mechanical Systems Engineering Murata Lab. 有効数字について 2004年7月23日 村田 1. 有効数字とは 理工学で扱う数値は多くの場合測定値であり,測定方法によって精度が決まっています.つまりある程度の誤差を含んでいるということです.例えば長さであれば,ものさし,ノギス,レーザー変位計などを用いて測ります. さて,ある長さの測定値をLとして,以下の二つの数値の書き方を比べてみましょう. L=105.4mm  (1) L=105.40mm (2) 式(1)の場合には小数点以下第1位の”4”までが意味のある測定値であるのに対し,式(2)の場合には小数点以下第2位の”0”まで

  • 1