実験レポート/考察の書き方：物理学解体新書
有効数字 HOME＞ 実験レポートの書き方＞データ処理の知識＞有効数字 有効数字とは 「2.50」と「2.5」はまったく違う値 有効数字とは、計測器で測った値をどの桁まで信じるかを表す数字である。 測定値を読み取るときに「最小目盛りの1/10の値を目分量で読む」というルールがある。 このルールに従って読み取った値が有効数字だ。 有効数字は、最小桁に1/10の不確かさが付きまとう数値なのである。 ここでは、なぜ有効数字が使われるのか、有効数字の考えたかについて根本から解説する。 小学校の算数では、「2.50」は末尾の「0」を取り去って「2.5」と書くように教えている。 「2.50」も「2.5」も同じだから末尾の「0」はいらないのだ。 しかし、有効数字では「2.50」と「2.5」は違うものと考える。 有効数字を理解するためには、まず小学校の算数を忘れる必要がある。 有効数字を理解するために、測
実験レポート/考察の書き方：物理学解体新書
有効数字 HOME＞ 実験レポートの書き方＞データ処理の知識＞有効数字 有効数字の計算処理 計算の基本は加減乗除である。 加減乗除によって、和差積商が得られる。 加減乗除を経ることによって、有効数字の桁数が変化する。 つまり「真の値が含まれる範囲」が広がるのだ。これは数値の精度が低下することを意味する。 ここを意識して適切な処置をしないと、計算値はあっていても、「真の値が含まれる範囲」が違ってきてしまう。 これでは正しいデータ解析とは言えない。 ここでは和差積商を求める場合の有効数字の扱いについて解説する。 和の場合 123.12345gの溶液に、45.3gの同種の液体を加えるとする。 この場合は精度の悪い方の有効数字に合わせて計算する。 精度の良い値と、精度の低い値を合計したら、答えは精度が低い方に埋もれてしまうからだ。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
