エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
浮動小数点の比較について
「0.1」というリテラルはdouble型になります。 そして、float と double の値を比較するときは、float ... 「0.1」というリテラルはdouble型になります。 そして、float と double の値を比較するときは、float 値がdouble に変換されてから、double同士の比較として処理されます。 つまり、「f==0.1」は、 「0.1 をfloatで表現したものをdoubleに変換したもの」と「0.1をdoubleで表現したもの」の比較を行います。 そのため、float の精度の低さから、等しくないという結果になります。 参考:IEEE754(一般的な浮動小数点数)表現だと、 float : 指数部8bit/仮数部24bit (float)0.1 = 1.10011001100110011001101b ×2^-4 double : 指数部11bit/仮数部53bit (double)0.1 = 1.1001100110011001100110011001100110011001