タグ

あとでみるとscienceに関するshin1のブックマーク (1)

  • 「有効数字」と学習指導要領 - あらきけいすけの雑記帳

    有効数字とは測定値で測定の不確かさが入るまでの桁のこと。例えば電気素量 e は (1.602176565±35)×10-19[C]*1であり、有効数字は10桁であるが、一番小さい2桁の "65" にはあいまいさが含まれていて、e の正確な値は1.602176530×10-19<e<1.602176600×10-19の範囲内に68%の確率で存在している。有効数字を求めるためには「不確かさ*2」(「誤差」ではないよ)のデータが必要なので、中学、高校で「不確かさ」を伴わずに教えられた「(ニセ)有効数字」とその計算法(Google検索で上位にくる日語のページの大半)はニセ科学なので、大学に入ったら忘れるように。勉強にはテイラー計測における誤差解析入門がおすすめ。有効数字の求め方のラフな解説は有効数字の決め方にもやもやとしたものを感じる人のための説明 - あらきけいすけの雑記帳に書いた。 以下、教

    「有効数字」と学習指導要領 - あらきけいすけの雑記帳
  • 1