「あなたがまだやっていない問題」は、背景色・文字色の変化なし 「あなたが弱い問題」は、この色 「あなたが半分ぐらいできる問題」は、この色 「あなたがよくできる問題」は、この色
「あなたがまだやっていない問題」は、背景色・文字色の変化なし 「あなたが弱い問題」は、この色 「あなたが半分ぐらいできる問題」は、この色 「あなたがよくできる問題」は、この色
これは、wikipedia:算術オーバーフローをみてもまったくわからなかったので、 Google先生にお伺いをたて調査。以下のURLのやり取りにて理解。 理解したURL。(教えてGoo) http://oshiete1.goo.ne.jp/qa366272.html ※ どうでもいいですが、こういうところで回答しているエライ人は、なんで回答しているのでしょうか。。。 モチベーションはなんなのかが非常に気になっている今日この頃です。ものすごく助かりるので本当にありがたいのですが。 簡単にまとめておきます。 完全に引用ですが・・・ 回答(1)『概念はこうなんです。って感じですかね。』 演算においては、ビット幅を越えて桁が溢れてしまうことをオーバーフローといい、限りなく0に近づいた小数が、精度を保てなくなる下位桁溢れをアンダーフローといいます。 回答(2)『図であらわすこうなんです。って感じです
値がほぼ等しく丸め誤差をもつ数値どうしの減算を行った場合、有効数字が減少すること。 絶対値がほぼ等しく符号が異なる数値どうしの加算の場合も同様。 浮動小数点数では、上位の桁がゼロになると、正規化によってそれを詰め、 以下の桁に"0" を強制的に挿入するので、下位の桁が信頼できないものになる。 特別な場合には、演算式を変形することによって、桁落ちを避けることができる。 これは上記wikipediaから引用した部分は理解できるのだが、その後の例が いまいち理解できなかったので、以下の例で実例としては理解。 http://rryu.sakura.ne.jp/compfund/backnumber/compfund057.txt でもまぁ。wikipdeiaにあるように、 『浮動小数点数では、上位の桁がゼロになると、正規化によってそれを詰め、以下の桁に"0" を強制的に挿入するので、下位の桁が信頼
コンピュータでの計算のときのように有効桁数が限られている条件下で、 絶対値の大きい数と絶対値の小さい数を加減算したとき、絶対値の小さい数が無視されてしまう現象。 これもwikipediaの例でいまいち理解できなかったので、以下の例で理解。 http://rryu.sakura.ne.jp/compfund/backnumber/compfund057.txt 要するに、加減算を行う時、ふたつの数値の指数を等しくするために、 指数の小さい方の数値の仮数を右シフトすることが問題で、 その結果として指数の小さい方の数値の下位ビットは失われてしまいます。 その下位ビットが失われたことが『情報落ち』 ■ 情報落ち ■ 加減算を行う時、ふたつの数値の指数を等しくするために、指数の小さい方 の数値の仮数を右シフトします。その結果として指数の小さい方の数値の下位 ビットは失われてしまいます。もしふたつの数
前回のエントリーで週に1回はエントリーしたいと書いておきながら、 いきなりできていませんが、今週は3連休だったのでなんとか間に合ったと、 ゆるーく考えておきたいと個人的には思っております。 ※ 個人的な備忘録のため、やぶったって誰も文句は言わないのはわかっているのですが、 自分で決めたことをいきなり破っているのでかなり言い訳がましくなっております。 現在10月の目標である応用情報処理技術者試験に向けて勉強しております。 情報処理の試験勉強をしていると毎回覚えられないものに「誤差」の概念があります。 それについて結構まじめに調べたので、備忘として残しておきます。 誤差とは、論理的に正しい値との差異のこと。 wikipediaによれば、誤差の発生原因は以下の3つがあるとのこと。 (1)データを測定する際に生じる測定誤差 (2)データを計算する際に生じる計算誤差 (3)標本調査による統計誤差(標
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く