何故に誰も数値計算の教科書を紹介してないの？teratailには独自のルールがあんの？

ya--mada のブックマーク 2020/07/28 08:23

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4688906947369536994/comment/ya--mada" data-user-id="ya--mada" data-entry-url="https://b.hatena.ne.jp/entry/s/teratail.com/questions/279638" data-original-href="https://teratail.com/questions/279638" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fteratail.com%2Fquestions%2F279638" data-user-icon="/users/ya--mada/profile.png">浮動小数点の誤差を確認する方法と気を付けないといけないことが知りたい。</a><br><p style="clear: left">何故に誰も数値計算の教科書を紹介してないの？teratailには独自のルールがあんの？</p><a class="datetime" href="https://b.hatena.ne.jp/ya--mada/20200728#bookmark-4688906947369536994"><span class="datetime-body">2020/07/28 08:23</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

浮動小数点の誤差を確認する方法と気を付けないといけないことが知りたい。

teratail.com2020/07/23

提示コードのコメント欄の実行結果にもある通り浮動小数点の誤差を確認出来たのですがこれは値が割り切れない時に値を丸まるという処理の誤差です。　そのほかどんな誤差が生まれるのでしょうか？それとその修正...

2 人がブックマーク・1 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

浮動小数点の誤差を確認する方法と気を付けないといけないことが知りたい。

はてなブックマーク

公式Twitter

はてなのサービス