タグ

ブックマーク / docs.sun.com (2)

  • What Every Computer Scientist Should Know About Floating-Point Arithmetic

    What Every Computer Scientist Should Know About Floating-Point Arithmetic Note – This appendix is an edited reprint of the paper What Every Computer Scientist Should Know About Floating-Point Arithmetic, by David Goldberg, published in the March, 1991 issue of Computing Surveys. Copyright 1991, Association for Computing Machinery, Inc., reprinted by permission. Abstract Floating-point arithmetic i

    yamaz
    yamaz 2010/09/24
  • 浮動小数点演算について

    付録 D 浮動小数点演算について 注 - この付録は、1991 年 3 月発行の "Computing Surveys" に掲載された "Every Computer Scientist Should Know About Floating-Point Arithmetic" 稿 (David Goldberg著) を再編集し、著作権を有する Association for Computing Machinery 社 (Copyright 1991) の許可のもとに、印刷しなおしたものです。 概要 浮動小数点演算は、概して難解な問題として受け取られることがあります。コンピュータシステムの内部には、浮動小数点演算がいたるところに存在する点を考えれば、この認識には多少、現実とのずれがあるようです。たとえば、ほとんどのコンピュータ言語に、浮動小数点のデータ型が使用されています。また PC から

    yamaz
    yamaz 2007/01/19
    from ruby-list 43129
  • 1