Rubyに限らんが…ってかRubyのことは分からんが、C++やC# で失念して(f == g)がtrueにならなくてドツボにはまることがよくある。

linden のブックマーク 2015/10/27 18:36

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/14105840/comment/linden" data-user-id="linden" data-entry-url="https://b.hatena.ne.jp/entry/s/tociyuki.hatenablog.jp/entry/20090620/1245503707" data-original-href="https://tociyuki.hatenablog.jp/entry/20090620/1245503707" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Ftociyuki.hatenablog.jp%2Fentry%2F20090620%2F1245503707" data-user-icon="/users/linden/profile.png">浮動小数点数の同値比較には計算機イプシロンを使うこと - Tociyuki::Diary</a><br><p style="clear: left">Rubyに限らんが…ってかRubyのことは分からんが、C++やC# で失念して(f == g)がtrueにならなくてドツボにはまることがよくある。</p><a class="datetime" href="https://b.hatena.ne.jp/linden/20151027#bookmark-14105840"><span class="datetime-body">2015/10/27 18:36</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

浮動小数点数の同値比較には計算機イプシロンを使うこと - Tociyuki::Diary

tociyuki.hatenablog.jp2009/06/20

コメントのご指摘のとおり Float::EPSILON は相対誤差のため、比較したい f と g の絶対値の大きな方を掛けるように比較条件式を変更しました。ご指摘ありがとうございます。技術評論社御中。WEB+DB PRESS Vol.5...

38 人がブックマーク・6 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

浮動小数点数の同値比較には計算機イプシロンを使うこと - Tociyuki::Diary

はてなブックマーク

公式Twitter

はてなのサービス