タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

programmingとmarzに関するbobbyjam99のブックマーク (1)

  • まつもと直伝 プログラミングのオキテ 第15回 浮動小数点数の謎に満ちた世界

    前回はコンピュータにおける整数の扱いについて学びました。今回はさらに奥に入り,小数について調べてみましょう。コンピュータ上の小数は整数以上に複雑な謎に満ちているのです。 小学校に入学したばかりのころ,算数の時間に学んだ「数」は整数,それも正の数だけでした。しかし,学年が進むと1よりも小さい数を取り扱う小数が登場します。0.2や1.5ですね。高等学校では数の範囲が広がり,小数を実数の一種として考えます。 コンピュータにおける小数の扱い コンピュータでも小数を取り扱います。プログラムで小数点を含む数を書くと小数を表します。 このRubyのプログラムは0.2という数を1つ用意し,出力します。Rubyの場合,すべてのデータはオブジェクトですから小数もオブジェクトです。小数を表現するオブジェクトのクラスをFloatと呼びます。数なのにfloat(浮く,浮かぶ)とはおかしな名前ですが,これはコンピュー

    まつもと直伝 プログラミングのオキテ 第15回 浮動小数点数の謎に満ちた世界
  • 1