高精度計算サイト | Okumura's Blog
カシオの高精度計算サイトを試してみた。適当に「統計関数 > 超幾何分布」とたどって，例題の x = 14，n = 50，M = 60，N = 200 をそのまま試してみる。演算桁数は50桁まで選べるが，とりあえずデフォルトの演算桁数（22桁）では 確率密度 f(x,n,M,N) = 0.1342936640436631826 下側累積確率 P(x,n,M,N) = 0.4339792084682835697 と19桁まで出る。Rで検算（にならないか ^^;）してみたら，CPUによって結果が違う： > options(digits=16) > dhyper(14,60,140,50) [1] 0.1342936640436632 # Linux (Intel) [1] 0.1342936640436631 # Mac (PPC) > phyper(14,60,140,50) [1] 0.43
並列化メモ - potasiumchの日記
コンピュータサイエンス研究科で並列コンピューティングのセミナーがあるというので聞きに行く（ほとんど現実逃避）。印象に残った話をメモ。 自分の書くプログラムが2008年以降高速にならなくても良いという人を除き、全ての人は並列化プログラムを書く必要がある。 1980年代以降、RAM のアクセス速度は毎年 9% しか向上していない。このため CPU の処理速度との乖離が加速度的に増加している（いた）。これによる不具合を軽減するための仕組みとしてキャッシュメモリがあり、プログラムの実行速度はキャッシュのヒット率に大きく依存する。 アルゴリズムやデータサイズによってキャッシュのヒット率は異なる。更に最近の CPU はそれぞれ容量・速度の異なるキャッシュを多段に装備している。このため、どのアルゴリズムがどういうサイズの計算をするときに最適なのかはもはや誰にも予測できない。 並列化なんてしたら更に訳がわ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
