タグ

.net-frameworkに関するDycoonのブックマーク (2)

  • Unity の iOS64bit 対応で発生した浮動小数点数の誤差について - Qiita

    はじめに Unity で iOS64bit 対応をした際に、浮動小数点数の演算で 32bitとは異なる誤差がでることを確認しました。 Unity の中の人とやりとりをした情報が誰かの役にたつかもしれないので、残しておきます。 そもそも浮動小数点数の演算は狂う a) 浮動小数点数の演算に固有の誤差が常に生じる可能性がある。 b) ビルド環境やオプションによって、同一のソースコードでも計算結果が変わる可能性がある。 c) 実行する CPU が変われば、同一の実行モジュールでも計算結果が変わる可能性がある。 こちらから の引用です。 そもそも実行環境などにより浮動小数点数の演算は狂うものなのですが、Unity の iOS64Bit 対応では下記のような現象が発生していました。 起こった現象 環境 Unity 4.6.6f2 32bit 版ビルド時の設定 Script Backend : Mono

    Unity の iOS64bit 対応で発生した浮動小数点数の誤差について - Qiita
  • 1