タグ

tipsとmathematicsに関するkathewのブックマーク (3)

  • Round() 関数は四捨五入関数ではない: ITコンサルタント 市井賢児のメモ

    知っている人は当たり前なネタですが、知らないと素通りしてそのままにしてしまいそうなネタです。 多くの言語に Round() 関数が用意されていますが、これは四捨五入する関数ではなく、「丸め」る関数です。 名前のまんま。 実は私、最近まで「丸め」とは「四捨五入のコンピュータ系方言」くらいに思っていたのですが、実は違いました。もっと広い言葉です。 まず、「丸め」とはある精度以下の数値情報を捨てる処理のことで、「四捨五入」を含みます。他に少なくとも切り上げ、切捨て、そして今回話題にする「偶数丸め」があります。(もっとあるかも知れません) 「偶数丸め」は IEEE 754 で定められており、JIS や ISO にも同じ規定があります。 多くの Round() 関数の挙動もこの IEEE 754 に則った「偶数丸め」です。 「偶数丸め」は四捨五入とほぼ同一ですが、次の1点が違います。 「丸め単位の丁

  • クォータニオン - おべんきょうwiki

    クォータニオン 「四元数」とも呼ばれる. 三次元回転をコンパクトに表現できる,補間がやりやすいなどの利点があるが, 結局同次座標変換行列に落とさないと使えなかったりする. 直感的でないという最大の欠点がある. 回転を表すクォータニオン 普通のクォータニオンは とかあらわされる.は虚部. 回転を表すクォータニオンの場合,大きさが1のクォータニオンとなる. 回転量を,回転軸をとしたときこれをあらわすクォータニオンは 当然,全要素の符号を反転させても同じ回転を表現できる. なお, これは同じ回転を意味し これは逆回転を意味する 基的な演算 クォータニオンの乗算の定義は ちなみに 回転を表すクォータニオンを合成するときは単純に乗算すればよい. クォータニオンaをbで回転させてクォータニオンcをつくる場合. コーディングの際にはたぶん展開しても簡単にならないと思うので素直に乗算で組んでしまうのがい

    クォータニオン - おべんきょうwiki
  • エクセルで計算すると2.43E-19などと表示される。Eとは何ですか?

    ★回答 ・最初に『回帰分析』をここで説明するのは少し大変なので『E』のみ説明します。 ・回答者 No.1 ~ No.3 さんと同じく『指数表記』の『Exponent』ですよ。 ・『指数』って分かりますか? ・10→1.0E+1(1.0×10の1乗)→×10倍 ・100→1.0E+2(1.0×10の2乗)→×100倍 ・1000→1.0E+3(1.0×10の3乗)→×1000倍 ・0.1→1.0E-1(1.0×1/10の1乗)→×1/10倍→÷10 ・0.01→1.0E-2(1.0×1/10の2乗)→×1/100倍→÷100 ・0.001→1.0E-3(1.0×1/10の3乗)→×1/1000倍→÷1000 ・になります。ようするに 10 を n 乗すると元の数字になるための指数表記のことですよ。 ・よって、『2.43E-19』とは? 2.43×1/(10の19乗)で、 2.43×1/100

    エクセルで計算すると2.43E-19などと表示される。Eとは何ですか?
  • 1