タグ

データ型に関するtama_1028のブックマーク (1)

  • 割り算の結果に要注意・・・!! - give IT a try

    不思議な現象? さて、いきなり問題です。 「6÷5」はいくつでしょうか?? ・・・ほとんどの人は「1.2」と答えるのではないでしょうか? では以下のSQLの実行結果はいくつになるでしょうか? select 6 / 5 ・・・実は「1」になります。 プログラミング言語によっては、整数同士の割り算の結果を整数で返す言語があります。 ただ、紛らわしいことに言語によって結果は非常にまちまちです。 SQL Serverは「1」を返しますが、Oracleは「1.2」を返します。 C#も「1」を返しますが、Perlは「1.2」を返します。 割り算が発生するロジックを扱う場合、自分の使っている言語がどちらのタイプなのか十分注意してください。 プログラミングの初歩の初歩みたいな話ですが、これが原因でしょうもないバグが発生したりすることもあります。 対策 さて、「1」ではなく「1.2」という結果がほしい場合、

    割り算の結果に要注意・・・!! - give IT a try
  • 1