SSE2/AVX512, ARM NEON での rcpe(逆数近似), rsqrte(逆平方根近似)命令のメモ - Qiita

SSE2/AVX512, ARM NEON での rcpe(逆数近似), rsqrte(逆平方根近似)命令のメモARMneonAVXSSE2 背景 embree-aarch64 において, ARM NEON だと交差判定で欠けがでる. どうも除算 and/or 平方根の精度の問題っぽい. ARM NEON と x64(SSE2) での 1/x と 1/sqrt(x) の近似命令を使った 1/x と 1/sqrt(x) の計算の精度を合わせたい. 基本情報 a/x の計算(除算): 1/x を求め, a * (1/x) で実現 sqrt(x) の計算: 1/sqrt(x) を求め, x * (1/sqrt(x)) で求めることができる. 精度について e < 2^{-n} の誤差のとき, n bit の精度と言うことにします. また, 単精度を扱います. 命令の実装的には, テーブルを引いて