タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

バグに関するrokujyouのブックマーク (1)

  • Excel 2007にバグ、誤った計算結果を表示

    Microsoft Excel 2007」で誤った計算結果が表示される問題があることを、Microsoftが報告した。 Excelチームブログによると、この問題はExcel 2007(およびExcel Services 2007)で、65535前後の数に関連して生じるという。同チームのもとには初め、「=77.1*850」を計算したときに正しい答え(65535)の代わりに「100000」が返されるとの報告が寄せられた。その後ほかにも「=5.1*12850」などで、同様の問題が起きることが分かった。 問題は主に乗算で発生しているが、実際には乗算とは関係なく、答えが65535になる計算の多くで問題が起きることが明らかになった。65536でも同様の現象が起きるという。具体的には、この問題が起きる数値は、Excel 2007で保存できる2進法浮動小数点数のうち、65534.99999999995か

    Excel 2007にバグ、誤った計算結果を表示
  • 1