高精度計算サイト | Okumura's Blog

カシオの高精度計算サイトを試してみた。適当に「統計関数 > 超幾何分布」とたどって，例題の x = 14，n = 50，M = 60，N = 200 をそのまま試してみる。演算桁数は50桁まで選べるが，とりあえずデフォルトの演算桁数（22桁）では 確率密度 f(x,n,M,N) = 0.1342936640436631826 下側累積確率 P(x,n,M,N) = 0.4339792084682835697 と19桁まで出る。Rで検算（にならないか ^^;）してみたら，CPUによって結果が違う： > options(digits=16) > dhyper(14,60,140,50) [1] 0.1342936640436632 # Linux (Intel) [1] 0.1342936640436631 # Mac (PPC) > phyper(14,60,140,50) [1] 0.43