タグ

ブックマーク / hnw.hatenablog.com (1)

  • PHP以外全員不正解 - hnwの日記

    いまだにround関数のまとめは出来ていません。そろそろ皆様に忘れられる前にまとめなきゃな、とは思っていますが、もうしばらくお待ちください。今回は微妙にround関数と近いような遠いような話題です。 巨大な数の丸めについて実験しているうちに、PHPだけ正解でPerlRubyPythonが不正解と思われる例を見つけました。普段の叩かれっぷりを考えるとPHPだけ正解なんて状態は有り得ない気がするのですが、僕には他の結論が導けませんでした。識者の皆様に「ダウト!」と指摘して頂ければ幸いです。 今回は、2の65乗のことを265と表現することにします*1。 265=36893488147419103232の次に大きいIEEE64bit浮動小数点数は265+213=36893488147419111424です。仮に、265+212+1=36893488147419107329を浮動小数点数に丸める

    PHP以外全員不正解 - hnwの日記
    Aoba
    Aoba 2007/08/13
    日本以外全部沈没というタイトルを思い出した
  • 1