エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
第11回 引き算はコンピュータの弱点[後編] | gihyo.jp
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
第11回 引き算はコンピュータの弱点[後編] | gihyo.jp
前回は浮動小数点数のエラー・誤差のうち、「オーバーフロー/アンダーフロー」と「桁落ち」について学... 前回は浮動小数点数のエラー・誤差のうち、「オーバーフロー/アンダーフロー」と「桁落ち」について学びました。今回は演習として、「桁落ち」とその回避方法を経験してみましょう。 問題:二次方程式の解の公式で、桁落ちを生じないように式変形しましょう。 (1)a=0.25,b=20,c=0.1 の場合、float型で計算するとどの程度桁落ちを発生するでしょうか。プログラムを作成して実行してみましょう。 (2) 式変形を行い、桁落ちを生じない形の式を導きましょう。 (3) 式変形後の式をプログラムに追加して再計算し、桁落ちが改善されているか確認しましょう。 解説 問題:二次方程式の解の公式で、桁落ちを生じないように式変形しましょう。 (1)a=0.25,b=20,c=0.1 の場合、どの程度桁落ちを発生するでしょうか。プログラムを作成して実行してみましょう。 //filename : Ketaoc