エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
B. 浮動小数点演算、その問題と制限
は 0/2 + 0/4 + 1/8 という値になります。これら二つの分数は同じ値を 持っていますが、ただ一つ、最初... は 0/2 + 0/4 + 1/8 という値になります。これら二つの分数は同じ値を 持っていますが、ただ一つ、最初の分数は基数 10 で記述されており、 二番目の分数は基数 2 で記述されていることが違います。 残念なことに、ほとんどの小数は 2 進法の分数として正確に表わすことが できません。その結果、一般に、入力した 10 進の浮動小数点数は、 2 進法の浮動小数点数で近似された後、実際にマシンに記憶されます。 最初は基数 10 を使うと問題を簡単に理解できます。分数 1/3 を考えて みましょう。分数 1/3 は、基数 10 の分数として、以下のように近似する ことができます:



2007/10/24 リンク