タグ

ブックマーク / aoki2.si.gunma-u.ac.jp (3)

  • 数値計算の落とし穴

    数値計算の落とし穴     Last modified: この前計算機室にいたら,学生が「long ではなくて float を使うのかな」などと話しておりました。 # float より double を使ってくれ... コンピュータが用いる数の精度 コンピュータの内部で使用される数は,2進数で表される。 以下のプログラムを考えてみよう。 #include <stdio.h> #include <math.h> void put_float(char *string, float z); #define N 100 int main(void) { float x, sum; int i; sum = 0.0; x = 1.0/N; /* (1) */ for (i = 0; i < N; i++) { /* (2) */ sum += x; } put_float("sum = ", su

    Phinloda
    Phinloda 2008/02/16
    二次方程式の解の公式の誤差を避ける方法、プログラマー的には常識
  • Excelのひどい話です!

  • ベイズの定理

    事前にわかっている確率は $\Pr\{B_i\}$, $\Pr\{A\ |\ B_i\}$ だけでよい。 事後にわかった事実 “女子である” ということから,事後確率 $\Pr\{B_i\ |\ A\}$ を得ようとするのが問題の趣旨である。 2 年生の女子である確率 $\Pr\{B_2 \cap A\} = 45\ /\ 510$ は,2 年生である確率 $\Pr\{B_2\} = 121\ /\ 510$ と 2 年生であるという条件付きでの女子である確率 $\Pr\{A\ |\ B_2\} = 45\ /\ 121$ を用いて乗法定理の ( 2 ) 式から, \[ \begin{align*} \Pr\{B_2 \cap A\} &= \Pr\{B_2\} \times \Pr\{A\ |\ B_2\} \\[5pt] &= \frac{121}{510} \times \frac{

  • 1