6. 数値の丸め方 - 木村勇雄の「有効数字の簡便な扱い」
6.1. 数値を小数第 \(n\) 位に丸めようとするとき，一般には小数第 \((n + 1)\) 位の数字によって四捨五入する。しかし単純に四捨五入をすると数値を大きく見積もる結果になることがある。切り捨てと切り上げの頻度を均等にするために，小数第 \((n + 1)\) 位以下の数値を見て判断する方法がJISで定められている。 条件 1 小数第 \((n + 1)\) 位の数字が 5 以外のときは，通常の四捨五入をする。 条件 2 小数第 \((n + 1)\) 位の数字が 5 のとき，小数第 \((n + 2)\) 位以下の数値が明らかに 0 でなければ通常の四捨五入により切り上げる。 条件 3 小数第 \((n + 1)\) 位の数字が 5 で，小数第 \((n + 2)\) 位以下の数値が不明なとき，あるいは 0 であるときは，次の判断による。 小数第 \(n\) 位が偶数のとき
2. 有効数字 - 木村勇雄の「有効数字の簡便な扱い」
2.1. 有効数字とは数値の精度に関する表現のことで，最小桁で示す場合と，全桁数で示す場合がある。 最小桁で示す場合は「小数第○位まで有効」と表現する。数値が整数の場合は「1 の位まで有効」と表現する。9.876 mL は小数第 3 位まで有効である。最小桁は測定器具の性能によって決まる。 全桁数で示す場合は「有効数字○桁」あるいは「○桁が有効」と表現する。9.87 mL は有効数字 3 桁である。全桁数は測定器具の性能と試料の物理量によって決まる。 さて，0.005 g と 79.1 gとでは，どちらの精度が高いと言えるだろうか？ 0.005 g は小数第 3 位まで有効であり，1 桁が有効である。一方，79.1 g は小数第 1 位まで有効であり，3 桁が有効である。したがって，最小桁も全桁数も違っているので，どちらが精度が高いかを直ちに判定することはできない。 有効数字を話題にすると
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
