MyBlogと情報処理試験に関するhirohiro330のブックマーク (10)

  • (5)桁あふれ(オーバーフロー/アンダーフロー) - 技術のないSEの技術メモ

    これは、wikipedia:算術オーバーフローをみてもまったくわからなかったので、 Google先生にお伺いをたて調査。以下のURLのやり取りにて理解。 理解したURL。(教えてGoo) http://oshiete1.goo.ne.jp/qa366272.html ※ どうでもいいですが、こういうところで回答しているエライ人は、なんで回答しているのでしょうか。。。 モチベーションはなんなのかが非常に気になっている今日この頃です。ものすごく助かりるので当にありがたいのですが。 簡単にまとめておきます。 完全に引用ですが・・・ 回答(1)『概念はこうなんです。って感じですかね。』 演算においては、ビット幅を越えて桁が溢れてしまうことをオーバーフローといい、限りなく0に近づいた小数が、精度を保てなくなる下位桁溢れをアンダーフローといいます。 回答(2)『図であらわすこうなんです。って感じです

    (5)桁あふれ(オーバーフロー/アンダーフロー) - 技術のないSEの技術メモ
  • (4)桁落ち - 技術のないSEの技術メモ

    値がほぼ等しく丸め誤差をもつ数値どうしの減算を行った場合、有効数字が減少すること。 絶対値がほぼ等しく符号が異なる数値どうしの加算の場合も同様。 浮動小数点数では、上位の桁がゼロになると、正規化によってそれを詰め、 以下の桁に"0" を強制的に挿入するので、下位の桁が信頼できないものになる。 特別な場合には、演算式を変形することによって、桁落ちを避けることができる。 これは上記wikipediaから引用した部分は理解できるのだが、その後の例が いまいち理解できなかったので、以下の例で実例としては理解。 http://rryu.sakura.ne.jp/compfund/backnumber/compfund057.txt でもまぁ。wikipdeiaにあるように、 『浮動小数点数では、上位の桁がゼロになると、正規化によってそれを詰め、以下の桁に"0" を強制的に挿入するので、下位の桁が信頼

    (4)桁落ち - 技術のないSEの技術メモ
  • (3)情報落ち - 技術のないSEの技術メモ

    コンピュータでの計算のときのように有効桁数が限られている条件下で、 絶対値の大きい数と絶対値の小さい数を加減算したとき、絶対値の小さい数が無視されてしまう現象。 これもwikipediaの例でいまいち理解できなかったので、以下の例で理解。 http://rryu.sakura.ne.jp/compfund/backnumber/compfund057.txt 要するに、加減算を行う時、ふたつの数値の指数を等しくするために、 指数の小さい方の数値の仮数を右シフトすることが問題で、 その結果として指数の小さい方の数値の下位ビットは失われてしまいます。 その下位ビットが失われたことが『情報落ち』 ■ 情報落ち ■ 加減算を行う時、ふたつの数値の指数を等しくするために、指数の小さい方 の数値の仮数を右シフトします。その結果として指数の小さい方の数値の下位 ビットは失われてしまいます。もしふたつの数

    (3)情報落ち - 技術のないSEの技術メモ
  • (2)打ち切り誤差 - 技術のないSEの技術メモ

    計算処理を続ければ精度がよくなるにもかかわらず、途中で計算を止めること(打ち切り)によって生じる誤差。 wikipediaの例は自分の数学レベルでは理解できなかったので、以下の例で理解。 http://lecture.ecc.u-tokyo.ac.jp/~yamaguch/johokagaku/2008/trunc2.html 要するに∞回は計算できないから妥協できるn回で計算を途中でやめることによって生じる誤差。 ちなみに、上記の例の「指数関数の原点の周りのテイラー展開」が何かはわからないです・・・

    (2)打ち切り誤差 - 技術のないSEの技術メモ
  • (1)丸め誤差 - 技術のないSEの技術メモ

    数値を、どこかの桁で端数処理(切り上げ・切り捨て・四捨五入・五捨六入・丸めなど)をしたときに生じる誤差。 ※ これはわかりやすいし、覚えやすい。

    (1)丸め誤差 - 技術のないSEの技術メモ
  • 計算誤差の種類 - 技術のないSEの技術メモ

    以下の5つが対象となります。 (1)丸め誤差 (2)打ち切り誤差 (3)情報落ち (4)桁落ち (5)桁あふれ(オーバーフロー/アンダーフロー) この中でも、(3)情報落ち と(4)桁落ち の区別がなんど覚えても付け焼刃のため忘れるので、 こいつを理解しようってことが今回のエントリーの動機です。

    計算誤差の種類 - 技術のないSEの技術メモ
  • 誤差の評価方法 - 技術のないSEの技術メモ

    誤差の評価方法は以下の二つ。 『相対誤差』 ⇒ 真の値との割合で評価したもの ⇒ 「相対誤差」=誤差 ÷ 真の値 『絶対誤差』 ⇒ ⇒ 真の値との差で評価したもの ⇒ 「絶対誤差」= 誤差 − 真の値

    誤差の評価方法 - 技術のないSEの技術メモ
  • 真の値 - 技術のないSEの技術メモ

    これはwikipedilaの真の値の部分を読めば簡単にわかるのでそのまま引用します。 測定値から誤差を無くすことは不可能である。したがってわれわれが知り得るのは常に誤差付の値でしかない。しかしながら測定すべき量には測定方法とは無関係なある定まった値があると考えるのが合理的である。この値のことを誤差理論において 真の値 とよんでいる。

    真の値 - 技術のないSEの技術メモ
  • 情報処理用語としての誤差 - 技術のないSEの技術メモ

    誤差とは、論理的に正しい値との差異のこと。 wikipediaによれば、誤差の発生原因は以下の3つがあるとのこと。 (1)データを測定する際に生じる測定誤差 (2)データを計算する際に生じる計算誤差 (3)標調査による統計誤差(標準誤差) wikipedia:誤差 今回は主に(2)の 『データを計算する際に生じる計算誤差』が勉強の対象となります。

    情報処理用語としての誤差 - 技術のないSEの技術メモ
  • 2009-10-12

    前回のエントリーで週に1回はエントリーしたいと書いておきながら、 いきなりできていませんが、今週は3連休だったのでなんとか間に合ったと、 ゆるーく考えておきたいと個人的には思っております。 ※ 個人的な備忘録のため、やぶったって誰も文句は言わないのはわかっているのですが、 自分で決めたことをいきなり破っているのでかなり言い訳がましくなっております。 現在10月の目標である応用情報処理技術者試験に向けて勉強しております。 情報処理の試験勉強をしていると毎回覚えられないものに「誤差」の概念があります。 それについて結構まじめに調べたので、備忘として残しておきます。 誤差とは、論理的に正しい値との差異のこと。 wikipediaによれば、誤差の発生原因は以下の3つがあるとのこと。 (1)データを測定する際に生じる測定誤差 (2)データを計算する際に生じる計算誤差 (3)標調査による統計誤差(標

    2009-10-12
  • 1