タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

PLLとDelphiに関するpalmyraのブックマーク (1)

  • [ 890_計算誤差 ( 数値計算の誤差 ) と多倍長演算 ] - Mr.XRAY

    procedure TForm1.Button1Click(Sender: TObject); var R1 : Single; begin R1 := 0.1; if R1 = 0.1 then begin MessageBox(Handle, '同じ値です', '結果', MB_ICONINFORMATION); end else begin MessageBox(Handle, '同じ値ではありません', '結果', MB_ICONWARNING); end; end; というものです.例をあげたらきりがありません.対象の数値や結果は,数値の型や,どんな計算をしたか,結果をどのように取得したかにもよります. コンピュータは昔「電算機」とか「電子計算機」と呼ばれていました.科学技術計算でコンピュータを使用する者にとって,上記のような現象は,必要不可欠な知識であり,常識といっても過言では

    palmyra
    palmyra 2008/11/26
    固定点少数と誤差
  • 1