エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
浮動小数点の丸めの方向と性質 (1) - 小清水さんとコンピューター数学
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
浮動小数点の丸めの方向と性質 (1) - 小清水さんとコンピューター数学
小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ に... 小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ になる例を紹介しました。 math-koshimizu.hatenablog.jp Abstract 今回は そんな浮動小数点数 に もう少し踏み込んだ話をするための準備記事になります。 実数を浮動小数点に近似する 丸め について詳しく踏み込んでみます。 4つの代表的な丸めを定義して考察を加えていきます。 四捨五入のような考え方がイケてない理由なども登場します。 浮動小数点数のざっくりした理解 2進p桁の浮動小数点数とは 次のように表現できる数: になります。ただし、 例えば、2進3桁の浮動小数点の分布は次のようになります。 注意. ここでざっくりと書いたのは、 ここでは e の区間を整数全体としているものの、 本来は特定の数の間で限定されていたり、 非正規化数の話が抜けているためです。 い