サクサク読めて、アプリ限定の機能も多数!
Rubyに限らんが…ってかRubyのことは分からんが、C++やC# で失念して(f == g)がtrueにならなくてドツボにはまることがよくある。
linden のブックマーク 2015/10/27 18:36
浮動小数点数の同値比較には計算機イプシロンを使うこと - Tociyuki::DiaryRubyに限らんが…ってかRubyのことは分からんが、C++やC# で失念して(f == g)がtrueにならなくてドツボにはまることがよくある。2015/10/27 18:36
このブックマークにはスターがありません。 最初のスターをつけてみよう!
tociyuki.hatenablog.jp2009/06/20
コメントのご指摘のとおり Float::EPSILON は相対誤差のため、比較したい f と g の絶対値の大きな方を掛けるように比較条件式を変更しました。ご指摘ありがとうございます。 技術評論社御中。WEB+DB PRESS Vol.5...
38 人がブックマーク・6 件のコメント
\ コメントが サクサク読める アプリです /
Rubyに限らんが…ってかRubyのことは分からんが、C++やC# で失念して(f == g)がtrueにならなくてドツボにはまることがよくある。
このブックマークにはスターがありません。
最初のスターをつけてみよう!
浮動小数点数の同値比較には計算機イプシロンを使うこと - Tociyuki::Diary
コメントのご指摘のとおり Float::EPSILON は相対誤差のため、比較したい f と g の絶対値の大きな方を掛けるように比較条件式を変更しました。ご指摘ありがとうございます。 技術評論社御中。WEB+DB PRESS Vol.5...
38 人がブックマーク・6 件のコメント
\ コメントが サクサク読める アプリです /