有効数字（有効桁数）

物理量の数値表現で重要な有効数字（有効桁数）についの説明です。つまり、なぜ １３２００００ ではなくて １．３２×１０6 と表現するか？その理由を説明します。 １．有効桁数の意味 有効数字とは何か、またどうやって有効桁数を数えるのか、例を用いて説明する。 有効桁数３桁 有効桁数３桁とは元になる数字の大きさに対して誤差が１００分の１以下になる様な数値表現のことである。以下述べるように数字で表現されている最小桁の次の■の値が０～９のどれになるか解らないから誤差が生じるのであるから となる。このとき ０．０１３２ と １３．２ とでは数値の絶対的な大きさはまったく異なるが、信頼できる数値の桁数はどちらも３桁である。それを有効桁数という。 有効桁数５桁 同様に考えると、以下の二つの数値例の全体に対する誤差の割合はいずれも１００００分の１以下だから、有効桁数は５桁となる。 この二つの例の考察から明ら

[KariumNitrate]

これ授業でやった時に学校休んでて未だにちゃんと理解できていないところがある。でもこういう筆算を教科書で見た記憶がないんだよな。どういう授業をしたんだろう。