memcachedにおけるキャッシュシステムの Thundering Herd 問題への対策案 - blog.nomadscafe.jp

キャッシュシステムの Thundering Herd 問題とは、 通常、キャッシュに格納されるデータは、それぞれ単一の生存時間をもっています。問題は、頻繁にアクセスされるキャッシュデータがエクスパイアした際に発生します。データがエクスパイヤした瞬間から、並行に走る複数のアプリケーションロジックがミスヒットを検知し、いずれかのプロセスがキャッシュデータを格納するまでの間、同一のリクエストが多数、バックエンドに飛んでしまうのです。 という問題。クエリが重かったりするとそれだけでシステムに致命的な負荷を与えてしまい、キャッシュがあるにも関わらずキャッシュが切れたタイミング全体が停止することも考えられます。memcachedでこの問題に対応するため、次のような手段を考えてみました。 まず、保存時に通常のキャッシュと、それよりも指定した秒数Expiresが短いキャッシュを2つmemcachedに対し

[t-wada]

"ランダムに指定した確率でexpiresが短いキャッシュを見に行きます。これで一定の確率でキャッシュが早く切れるので一斉にバックグラウンドへリクエストが飛ぶことをさけることができます" 賢い

[kamawada]

この記事、マジでピンポイントにありがたや〜

[masudaK]

大事な現象なのに、どうしてもこの名前が覚えられない…

[apo-co]

　memcached キャッシュの切れるタイミングをずらして、重いクエリが同時に走らないようにする

[hidehish]

見てる:

[kamipo]

重い処理のところをKeyedMutex的にlockするとよさげな気がする。 http://htn.to/yVKpUR

[uratch]

しばらくウォッチ。

[kazeburo]

書いてみた