キャッシュに限らずメモリー・デバイスは、一般に小容量・低レイテンシー*1) の傾向があります。つまり、容量が小さいほど、高速化しやすくなります。しかし一方で、ソフトウェアが参照するアドレス範囲に対して、キャッシュ・サイズが小さすぎると、メイン・メモリーへのアクセスが頻発し、結果としてパフォーマンスが著しく低下します。このことは、2つ以上のプロセッサーがメイン・メモリーを共有する SMP (Symmetric Multi-Processing) システムでは致命的です。この相反する 2つの要件、キャッシュ・アクセスの高速化と大容量化によるヒット率向上を両立する方法として、インテルのプロセッサーに採用されているのがキャッシュの階層化です。Nocona からのインテル Xeon プロセッサーには、OOO (Out-of-Order) コアの性能を引き出すノン・ブロッキング型のキャッシュが、L1