タグ

ブックマーク / qiita.com/expajp (1)

  • 【Ruby】NaNのNaNa不思議 - Qiita

    これは Ruby Advent Calendar 2019の18日目の記事です。Otemachi.rb #17 - connpassで話した内容の大幅加筆修正版です。 実用性は皆無ですので、求めている方はブラウザバックしてください。 NaN (Not a Number) とは みなさん NaN ってご存知でしょうか? NaNとは Not a Number の略で、日語では非数といいます。主に浮動小数点演算の結果が不定形だったり未定義だったりするときに返ってきます。 constant Float::NAN (Ruby 2.6.0 リファレンスマニュアル) その数がNaNであるかどうかは、Float#nan?で調べることができます。 NaNの仕様はIEEE 754で規定されているので、大抵のプログラミング言語には実装されています。 JavaScriptだとたまに見かけますが、RubyだとNa

    【Ruby】NaNのNaNa不思議 - Qiita
    igrep
    igrep 2019/12/18
    多分ほかの言語でも大体同じで、CPUによって挙動が変わるケースもあるかも
  • 1