有効数字について

測定値の取扱いで大切なことは，計算では（特に電卓）大きな桁数になっても，実際に数値として意味のあるデータとするためには何桁までの数値を取るかと言うことである。 良く、電卓で計算された数値をそのまま全桁を書くとかExcelで計算された値をそのまま書く方をよく見かける。技術者としては非常識であるので注意が必要である。 (1).有効数字と計算 3.249と言う数字は純数学的には 3.249000･････という意味であるが，測定値の場合は，末尾の数値が四捨五入されて 9 になったと言う意味で，測定値Ｍは次の範囲にある。 3.2485 ≦ Ｍ ＜ 3.2495 このようなことから一般には，測定値は末尾の数値までが意味があり，それ以下の桁については不明である。このように意味のある数字を『有効数字』という。また，測定値においては，例えば目盛りを有する測定器で測定する場合，目分量では最小目盛りの1/10