工学的には15桁あれば十分余裕がある、ということか。そもそもメートルなどの基本単位自体が10桁程度のところで不確かさを持っているので、それ以上高精度で計算してもあまり意味が無いのだろう。

nekonyantaronekonyantaro のブックマーク 2020/10/05 07:30

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

NASAでは円周率を何桁まで使っているのか?

    円周率は2020年時点で小数点以下50兆桁まで計算されるほど途方もない桁数を持つ数です。一般的には「3」や「3.14」のような数で計算が行われますが、桁が切り捨てられるほど結果の正確さは損なわれてしまうもの。...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう