クライアントからmemcachedを利用する際の、ベストプラクティスは以前書いているので、その前段階でmemcachedを含めたWebアプリケーションのアーキテクチャ(と一部クライアントの話)について今の個人的な考えをまとめてみます。Kyoto Tycoonを使ったキャッシュ... 続きを読む
DECOLOG TECH BLOG annex ブログサイト「DECOLOG」を運営するミツバチワークスのテクニカルチームが、開発・運用ノウハウを公開 こんにちわ、ミツバチワークス stoneです。 DECOLOGでは、データベースにMySQLを使用しています。 ストレージエンジンのメインはIn... 続きを読む
キャッシュシステムの Thundering Herd 問題とは、 通常、キャッシュに格納されるデータは、それぞれ単一の生存時間をもっています。問題は、頻繁にアクセスされるキャッシュデータがエクスパイアした際に発生します。データがエクスパイヤした瞬間から、並行に... 続きを読む
モバゲーで知られるDeNAは、バックエンドデータベースにNoSQLを使っていません。なぜか? それはMySQL/InnoDB 5.1の環境で秒間75万クエリという、多くのNoSQLでも実現できないような高性能を実現しているから。DeNAの松信嘉範(まつのぶよしのり)氏は、自身の... 続きを読む
ここのところ必死こいて作り込んでいたKyoto Tycoonだが、主要機能を実装しきって文書もそこそこ書けてきたので、ベータリリースということにした。プロジェクトページもちゃんと作ってある。 公式には英語の文書しか作らない方針なのだが、それだと国内ではな... 続きを読む
ここ2-3年ほど、いわゆる非SQL系データベースがホットな話題になってきています。このムーブメントを総称して「NoSQL (Not-only SQL)」と呼ばれることが多いようです。まるでSQLを否定しているかのような誤解を招きやすい用語ですが、かといってキー・バリュー... 続きを読む
例の件以来、memcachedについて書いたり話したりする機会が多く頂いています。次はShibuya.pm で再び監視について発表する予定です。また、今回の発表でも紹介したリソースモニタリングツール cloudforecast はYAPC::Asiaで詳しく説明します。Shibuya.pmは参加... 続きを読む
13:54最近じゃmemcachedを活用してデータベース(RDB)の負荷を下げるって話、そこらじゅうから聞こえてくるけれど、memcachedの活用は、格納オブジェクトの”粒度”(granularity)がキモだと思ってるですよ。memcachedは、KeyとDataをペアで格納して、Keyが与え... 続きを読む
What is Cache Money Cache Money is a write-through and read-through caching library for ActiveRecord. Read-Through: Queries like User.find(:all, :conditions => ...) will first look in Memcached and then look in the database for the results of... 続きを読む
2010/09/07 KVS(キー・バリュー・ストア)に分類されるオープンソースのRedisの新バージョン、「Redis 2.0.0」が2010年9月5日にリリースされた。Redisはmemcachedと同様にキーと値のペアをメモリ上に保持するKVSの一種だが、3つの際立った特徴がある。1つはハ... 続きを読む
こんにちは。システム本部技術部たんぽぽGの森本です 先日のmixi大規模障害についての続報です 今回は小ネタはありません はじめに まず初めにtwitter/blogなどを通じて今回の問題の解析を行っていただいたみなさんに感謝の言葉を捧げたいと思います kzk_mover... 続きを読む
handlersocket plugin や mycached を使えば memcached は不要か、それとも使うべきケースがあるか。考察せよ [10点] kazuho (Kazuho Oku) http://twitter.com/kazuho/status/21477219149 考えて答えてみる。 HandlerSocketやmycachedを利用し、MySQLへの接続数... 続きを読む
某大手SNSの障害に関連してmemcachedに負荷をかけるツールを書いたので一応書いておく。 最大接続数に達しているときに高速で接続/切断を繰り返すとmemcachedが終了してしまうというもの。 最大10000コネクション試行して、statsコマンド発行する。接続に失敗す... 続きを読む
ファイルディスクリプタが不足してmemcachedが落ちたとして、そのときには、3万強の接続となってるはず。3万強の接続となるにはアプリケーションサーバ側のmax clientが平均60として500台以上必要。そんなに増えたん? 続きを読む
8月10日の17時20分頃から12日未明までの長時間にわたり、サービスが利用不能もしくは利用しにくい状況になっていた「mixi」。数度の断続的な復旧ののちに、本日12日午前1時50分頃には復旧が完了し、現時点で全面的に復旧しているようです。 その障害の経緯につ... 続きを読む
10/08/10/0052240 story Memcached に潜むセキュリティホール reoによる 2010年08月10日 10時30分の掲載 インターネット向けにポート開いちゃってる事がニュースなのでは部門より insiderman 曰く、さまざまなサイトで使われているキャッシュ機構、memcached に... 続きを読む
memcashedの開発者らが中心となって今年の3月に立ち上げた企業NorthScaleが、memcashed互換のNoSQLデータベース「Membase」のオープンソースプロジェクト「membase.org」を6月23日に発表しました。 MembaseはWebアプリケーションのバックエンドに使われることを... 続きを読む
Big Data in Real-Time at Twitter - Presentation Transcript Big Data in Real-Time at Twitter by Nick Kallen (@nk) Follow along http://www.slideshare.net/nkallen/qcon What is Real-Time Data? • On-line queries for a single web request • Off-li... 続きを読む
携帯向けサイト「モバゲータウン」の勢いが止まらない。2010年3月の会員数は約1800万人、月間ページビュー(PV)600億という"モンスターSNS"に成長している。意外なことに、これだけのアクセスをさばくのに、memcachedをはじめとするKVS(Key-Value Store)系の... 続きを読む
スケーラブルなデータベースを実現する手段として「Sharding MySQL plus memcached」がよく知られる方法だとは、1つ前の記事「MySQL+Memcachedの時代は過ぎ、これからはNoSQLなのか、についての議論」で紹介しました。 ちなみに「Sharding」(シャーディング)... 続きを読む