x264のカスタム量子化マトリクスについて Fraternity7

自分の理解では：MPEG系規格の空間軸圧縮は次の手順を踏む（以下輝度 のみ）。 １）ブロック分割：映像を圧縮し易いサイズに小分けする。 ２）DCT変換：輝度値を短く言い換える。 ３）量子化：細かい数字を省略する（←ここで劣化）。 ４）エントロピー符号化：省略済みのデータを短く言い換える。 DCT変換の段階で各ピクセルの輝度値をDCT係数というものに変換する。目標は短くて・似たような数字に 変換すること。こうするとファイルサイズが減るが、この段階ではまだ逆DCT変換という計算をすれば無劣化。DCTの過程で輝度値は-1とか+2のように 0付近に収束するが、それでも収束しきらないピクセルが残る。 MPEG系規格における量子化は、この収束しきらない輝度値を、なんらかの除数で割り算して余りを丸めるものだ。丸めちゃうから、後で 逆量子化という計算をしても元通りにはならない（画質劣化）。その代わり0付近