タグ

研究とMATLABに関するmohnoのブックマーク (1)

  • 数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita

    ※筆者は驚くとになってしまいます. 2次方程式の解の計算でさえこのように誤差が生じ,結局どっちが真の解かも分かりません. 普段計算機でしている計算の結果が当に正しいものなのか,ちょっと心配になってきますね. 実は2次方程式に関しては誤差混入の原理が明らかになっていて誤差を回避する方法も知られています. 数値計算は前の計算結果を使って次の計算を行なうので,どこか一箇所でも誤差が混入してしまうとそれ以降の計算は信頼できないものになります. 大量の計算を行なう過程のどこかで致命的な誤差の混入が発生していたら…と考えると恐ろしくて夜しか眠れません. さて,ここからが題です.(唐突) 当に紹介したかったのは次の例で,筆者がこれを知った時は驚きのあまり研究室で叫びました. 計算機不信に陥るので,覚悟してください(笑) 3. 数値計算に潜むとんでもないリスク では,いよいよ題の"数値計算に潜む

    数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita
    mohno
    mohno 2019/12/26
    これくらいは数値計算をやる人なら当然知っておいてほしいところではあるけれど(2次方程式の場合、「b*b」と「4ac」で桁数の差が大きすぎて引算するには“有効桁数”が全然足りてない)
  • 1