おさかなラボ - ループに浮動数を使ってはいけない -- Craftworks のコメント
1 user
型あり言語を使っている人には常識かも知れないが、ループの種に浮動小数点数を使ってはいけない。意外と知らない人がいたので書いておく。たとえばこんなの。 #!/usr/bin/perl for($i = 0; $i < 1; $i += 0.1){ print "$i\n"; } <?php for($i = 0; $i < 1; $i ... 続きを読む
おさかなラボ - ループに浮動数を使ってはいけない
2 users
型あり言語を使っている人には常識かも知れないが、ループの種に浮動小数点数を使ってはいけない。意外と知らない人がいたので書いておく。たとえばこんなの。 #!/usr/bin/perl for($i = 0; $i < 1; $i += 0.1){ print "$i\n"; } <?php for($i = 0; $i < 1; $i ... 続きを読む
日経PC21 / 演算誤差の正体 - IEEE 754 浮動小数点数の仕組み
85 users
この「演算誤差」対策講座も、いよいよ最終回です。そこで、演算誤差が発生する根本的な仕組みと、エクセルVBAを利用した誤差対策法について学びます。 エクセルが誤差を起こすそもそもの原因は、「IEEE（アイ・トリプル・イー）754」という数値計算の標準規格... 続きを読む
IEEE 演算機能
9 users
第 2 章 IEEE 演算機能 この章では、ANSI/IEEE Standard 754-1985 for Binary Floating-Point Arithmetic (「IEEE 規格」または「IEEE 754」と略される) が規定する演算モデルについて説明します。SPARC、x86 のコンピュータはすべて、IEEE 演算機能を使用して... 続きを読む
