サクサク読めて、アプリ限定の機能も多数!
丸め誤差、打ち切り誤差離散化誤差、モデリング誤差
kiyo_hiko のブックマーク 2015/02/15 04:08
数値解析 - Wikipedia[丸め][誤差]丸め誤差、打ち切り誤差離散化誤差、モデリング誤差2015/02/15 04:08
このブックマークにはスターがありません。 最初のスターをつけてみよう!
ja.wikipedia.org2006/03/05
バビロニアの粘土板 YBC 7289 (紀元前1800-1600年頃)。2の平方根の近似値は六十進法で4桁、十進法では約6桁に相当する。1 + 24/60 + 51/602 + 10/603 = 1.41421296... [1]。(Image by Bill Casselman) 数値解析...
35 人がブックマーク・6 件のコメント
\ コメントが サクサク読める アプリです /
丸め誤差、打ち切り誤差離散化誤差、モデリング誤差
kiyo_hiko のブックマーク 2015/02/15 04:08
このブックマークにはスターがありません。
最初のスターをつけてみよう!
数値解析 - Wikipedia
ja.wikipedia.org2006/03/05
バビロニアの粘土板 YBC 7289 (紀元前1800-1600年頃)。2の平方根の近似値は六十進法で4桁、十進法では約6桁に相当する。1 + 24/60 + 51/602 + 10/603 = 1.41421296... [1]。(Image by Bill Casselman) 数値解析...
35 人がブックマーク・6 件のコメント
\ コメントが サクサク読める アプリです /