タグ

ブックマーク / abyss.hatenablog.jp (1)

  • 円周率に、有効数字という概念が当てはまらない。 - 深淵

    togetter.com さて。 タイトルで書きましたが、科学計算において、円周率をどうするかというのは、「まあ好きにせよ」とは思うのですが、「測定値の有効桁数で丸める」という意味は全くないのでご注意下さい。 また、円周率の3.14は便宜上そこまでの数値で計算すると決めたものであり、いわゆる有効桁数の定義とは異なります。3.14だったら「有効桁数3桁だ」とは思わないで下さい。工学系ではおおよそ3と教えられますが、それは円周率を厳密に用いて計算しても「だいたいしか意味がなので実際には流量計などを用いて流体力学的な径を測ったりするという事がある為です。 ここの話は、理系の大学生でも理解している人が少ないかと思います。 有効桁数とは「測定の曖昧さを含んだ値」に「ここまでの数字は有効であると丸めた値」の事であり、真の値は推測するしかないのですが、円周率には真の値は無理数なだけで、一意に決まっていま

    円周率に、有効数字という概念が当てはまらない。 - 深淵
    rascalrascal
    rascalrascal 2016/02/24
    このような考え方に素直に納得してはいけないの?
  • 1