あまラボ AVX2対応デコーダーはなぜ3倍も高速化できたのか

端的に言えばAVX2を使っているからとなりますが、AVX2による性能向上は（理論上の）最大でも2倍までなのでもう一つの要因としてSIMD化があげられます。 AMV2MTのY2設定には4つの圧縮パターン（AからD）があり、最少処理単位（2x2画素,32bit分のデータ）に対しどのパターンか調べて対応するデコード処理を行うのですが、32bit版はパターンAならAの処理、パターンBならBの処理と条件分岐で処理を分けて必要な処理のみを行うようになっています。 それに対し、AVX2版は圧縮パターンが何かにかかわらず4通りすべての処理をAVXレジスタ上に並べて行います（これをSIMD化と言います）。 そして、処理が終わったらシャッフル命令で必要なデータだけをAVXレジスタの下位に移動させます。 32bit版と比べ条件分岐を行わないためその部分のパフォーマンス低下がないメリットの反面、計算が不要な場合で