エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
2. 有効数字 - 木村勇雄の「有効数字の簡便な扱い」
2.1. 有効数字とは数値の精度に関する表現のことで,最小桁で示す場合と,全桁数で示す場合がある。 最... 2.1. 有効数字とは数値の精度に関する表現のことで,最小桁で示す場合と,全桁数で示す場合がある。 最小桁で示す場合は「小数第○位まで有効」と表現する。数値が整数の場合は「1 の位まで有効」と表現する。9.876 mL は小数第 3 位まで有効である。最小桁は測定器具の性能によって決まる。 全桁数で示す場合は「有効数字○桁」あるいは「○桁が有効」と表現する。9.87 mL は有効数字 3 桁である。全桁数は測定器具の性能と試料の物理量によって決まる。 さて,0.005 g と 79.1 gとでは,どちらの精度が高いと言えるだろうか? 0.005 g は小数第 3 位まで有効であり,1 桁が有効である。一方,79.1 g は小数第 1 位まで有効であり,3 桁が有効である。したがって,最小桁も全桁数も違っているので,どちらが精度が高いかを直ちに判定することはできない。 有効数字を話題にすると
2004/06/08 リンク