タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

桁落ちに関するkiyo_hikoのブックマーク (1)

  • 誤差について

    誤差について ある一つの問題を解こうとするとき、ある特別な場合を除いて、誤差は必ず起こり得る。 なぜなら、数値計算では、筆算にしろ電卓を使うにしろ、無限の桁数を持つ数値は扱えない からである。 数学では、理論値で数値計算するので、平方根や対数などのいろいろな記号を駆使して、 きっちり計算結果を示すことが可能であるが、他の実験科学(物理、化学、生物、・・・)では、 実験値でデータを処理するので、誤差との同居は宿命である。 どんなに正しい計算をする人でも、どんなに優秀なコンピュータでも、このことは避けるこ とのできないことである。 具体的な問題を、数学の問題として記述するとき、不正確なデータや仮定が入る場合が ある。 このとき、いくら正確に計算を行っても、計算結果は意味のないものになってしまう。 問題の記述の段階で生ずる誤差を、入力誤差(観測誤差)という。 数学的に問題を解析するとき、条件の簡

    kiyo_hiko
    kiyo_hiko 2015/02/15
    2次方程式解の公式などで出す値の有効桁数を稼ぐのには分子の有理かをつかう。文末の計算回数問題は有効桁数の応用 2を底にした対数にすればいいっぽい
  • 1