タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

Rubyとphpに関するtanakaBoxのブックマーク (1)

  • Rubyの浮動小数点数リテラルの扱いは正しいのか - hnwの日記

    題名の通りなんですが、前回の記事「PHP以外全員不正解」に対して「ダウト!」を頂戴したのでまとめてみます。 Cのこの動作が、唯一無二絶対のものであるとする根拠はどこにあるのでしょうか? strtod によれば、 If the subject sequence has the decimal form and at most DECIMAL_DIG (defined in ) significant digits, the result should be correctly rounded. If the subject sequence D has the decimal form and more than DECIMAL_DIG significant digits, consider the two bounding, adjacent decimal strings L and

    Rubyの浮動小数点数リテラルの扱いは正しいのか - hnwの日記
    tanakaBox
    tanakaBox 2008/01/31
    phpのroundから浮動小数点の議論へ。メチャメチャ深追てる凄い。
  • 1