タグ

ブックマーク / www.math.kobe-u.ac.jp/~kodama (1)

  • ruby を電卓のように使うには?(Kodama's tips page)

    Ruby 言語を簡易電卓代わりに使おうとするとちょっと戸惑うことがあるかもしれない. 割算 ruby の場合, 整数(Integer), 浮動小数点数(Float), 有理数(Rational), 複素数(Complex) などの相互の計算をあまり意識しないで使えるようになっている. 通常はこれで問題はおこらない. $ ruby -e 'p 3+2' # Integer どうしの和 5 $ ruby -e 'p 3.0+2' # Integer と Float の和 5.0 このような自動的な変換が自然にできているので,つい嵌まってしまいがちだが, 整数どうしの "/" (割算)は 17÷5=3...2 のように整数値の範囲で商と余りを求める整除を意味する. (多くの言語でも同様だが.) 浮動小数点数の割算を思い浮かべているのに, 整数で計算をするとつじつまが合わなくなる. $ ruby

    hiru926
    hiru926 2009/11/24
  • 1