タグ

microsoftとmathに関するYuichirouのブックマーク (1)

  • Excel 2007に乗算を間違えるバグ--2進法と10進法の処理方法で

    Microsoftは米国時間9月25日、特定の乗算を行うと、計算を誤る可能性のあるバグが「Excel 2007」に存在することを認めた。 この問題は乗算の結果が6万5535になるときに発生する。2進演算に明るい人には説明するまでもないことだが、6万5535は2の16乗から1を引いた値。つまり、0以上の整数を2バイトで表したときの最大の整数である。2進法を10進法に変換する際にこの問題が発生する可能性が高い。 同社は修正作業を行っているとだけ述べ、それ以上の説明はしていない。 Microsoftは25日に声明で、「われわれは現在、この問題に対する修正を開発し、検証するプロセスに入っている。顧客に速やかに対応すべく優先的にこの問題に取り組んでおり、ソフトウェアのより良いエクスペリエンスを提供するための方法を模索している」と述べている。 このバグは22日にExcelメーリングリストで明らかになり

    Excel 2007に乗算を間違えるバグ--2進法と10進法の処理方法で
    Yuichirou
    Yuichirou 2007/09/27
    ソースのSlashdotによると「=850*77.1」が「65535」ではなく「100000」になるというので、自分の所有するExcel 2007で試したら確かになった!
  • 1