浮動小数点を比較する - Perl入門ゼミ

Perl › 数値 › 浮動小数点の比較 コンピュータは内部的には2進数を使って演算しているので、2進数で表現できない小数については計算の過程で誤差が生まれます。2進数の演算の過程で発生した誤差の影響を無視するためには、ある有効桁で数値を丸めて比較する必要があります。 桁を丸めるにはsprintf関数を使用します。 sprintf("%.5g", $num1); "%.5g" は浮動小数点を有効桁5桁に丸めるという書式指定です。 サンプルプログラム 浮動小数点を比較するサンプルです。 use strict; use warnings; my $num1 = 1; my $num2; # 0.1を10回加算 for my $i (1 .. 10){ $num2 += 0.1; } print "(1)誤差が生まれる。\n"; if ($num1 != $num2) { print '$num

[kicyon]

小数点を丸めるにはsprintfを使う