タグ

ブックマーク / www.gs.niigata-u.ac.jp/~kimlab (1)

  • 木村勇雄の「有効数字の簡便な扱い」

    7.1. 次の計算をする。 \(\quad \{( 2.234\times 5.67815 ) + 100.9049 \} \times 4.60\) 有効数字を考慮しない場合 \(\quad 2.234 \times 5.67815 \\ \qquad = 12.6849871\\ \) \(\quad 12.6849871 + 100.9049 \\ \qquad = 113.5898871\\ \) \(\quad 113.5898871 \times 4.60 \\ \qquad = 522.51348066\\ \qquad = 523\) 労力の無駄であるばかりでなく,電卓のキーの押し間違いや,ノートへの転記ミスの原因となる。 しかし,それ以前に,理系のセンスをまるで感じさせない行為であるから,決して人前でしてはならない。 有効数字を考慮して毎回丸める場合 \(\quad 2.

    pneumaster
    pneumaster 2009/05/26
    有効数字|加減算では小数位の高い(小数部分が少ない)ものに、計算結果を合わせる
  • 1