サクサク読めて、アプリ限定の機能も多数！
計算結果に含まれる誤差の範囲を明示できることは、とても大事
lowpowerschottky のブックマーク 2020/02/06 09:43
このブックマークにはスターがありません。 最初のスターをつけてみよう！
qiita.com/shima_x2015/09/11
第1章：数の表現と誤差 16進切り捨てと2進切り捨て 16進切り捨てのとき$ε=6*10^{-8}〜10^{-6}$ 2進切り捨てのとき$ε=3*10^{-8}〜6*10^{-6}$ ループ制御時の誤差の考慮 $0.1≒(0.CCCCCD)_{16}*2^3$を10回足すと、10...
14 人がブックマーク・0 件のコメント
＼ コメントが サクサク読める アプリです ／
計算結果に含まれる誤差の範囲を明示できることは、とても大事
このブックマークにはスターがありません。
最初のスターをつけてみよう！
数値計算の常識 概要（個人的メモ） - Qiita
第1章：数の表現と誤差 16進切り捨てと2進切り捨て 16進切り捨てのとき$ε=6*10^{-8}〜10^{-6}$ 2進切り捨てのとき$ε=3*10^{-8}〜6*10^{-6}$ ループ制御時の誤差の考慮 $0.1≒(0.CCCCCD)_{16}*2^3$を10回足すと、10...
14 人がブックマーク・0 件のコメント
＼ コメントが サクサク読める アプリです ／