数値計算の落とし穴数値計算の落とし穴 Last modified: この前計算機室にいたら，学生が「long ではなくて float を使うのかな」などと話しておりました。 # float より double を使ってくれ... コンピュータが用いる数の精度 コンピュータの内部で使用される数は，2進数で表される。 以下のプログラムを考えてみよう。 #include <stdio.h> #include <math.h> void put_float(char *string, float z); #define N 100 int main(void) { float x, sum; int i; sum = 0.0; x = 1.0/N; /* (1) */ for (i = 0; i < N; i++) { /* (2) */ sum += x; } put_float("sum = ", su
fminsearch (MATLAB Function Reference)
