タグ

ブックマーク / fnorio.com (1)

  • 有効数字(有効桁数)

    物理量の数値表現で重要な有効数字(有効桁数)についの説明です。つまり、なぜ 1320000 ではなくて 1.32×106 と表現するか?その理由を説明します。 1.有効桁数の意味 有効数字とは何か、またどうやって有効桁数を数えるのか、例を用いて説明する。 有効桁数3桁 有効桁数3桁とは元になる数字の大きさに対して誤差が100分の1以下になる様な数値表現のことである。以下述べるように数字で表現されている最小桁の次の■の値が0~9のどれになるか解らないから誤差が生じるのであるから となる。このとき 0.0132 と 13.2 とでは数値の絶対的な大きさはまったく異なるが、信頼できる数値の桁数はどちらも3桁である。それを有効桁数という。 有効桁数5桁 同様に考えると、以下の二つの数値例の全体に対する誤差の割合はいずれも10000分の1以下だから、有効桁数は5桁となる。 この二つの例の考察から明ら

  • 1