タグ

ブックマーク / kazuk-i.hatenadiary.org (4)

  • KVSをWebアプリのメインストレージにしたら、集計バッチをMapReduceでやるはめになったでござるの巻 - Tous Les Jours 攻防記

    という題で、RubyKansai勉強会#39で発表させていただきました。 内容はMapReduceとKVSの関係、および自作のMapReduce処理系であるTinyMapReduceの紹介について。実装にはDRubyを使っています。といってもTinyMapReduceはコードサイズ200行以下で、対障害性もなくサンプルの域を出ないものですが。。 TinyMapReduce標準添付のSampleは、1〜100万までの自然数の中に2の倍数と3の倍数がそれぞれいくつ含まれるかカウントするタスクです(結果保存にSimpleResourceを使っており、別途導入が必要)。Workerの数を増やしていくことで、タスクの実行時間がシームレスに短縮することがわかると思います。 というわけで、使用したスライドを置いておきます。 TinyMapReduce on rubyView more presentat

    KVSをWebアプリのメインストレージにしたら、集計バッチをMapReduceでやるはめになったでござるの巻 - Tous Les Jours 攻防記
  • Webアプリをとりまく最近のKVS事情、雑感 - Tous Les Jours 攻防記

    RDBの復権はしばらくないと思う 最近目にしたのは、「これからRDBが十分速くなっていくので、memcachedに代わってRDBがまた使われるようになる」という意見。これはしばらくの間は無いんじゃないかと思う。全データがオンメモリだったとしても、KVSはRDBより一桁以上速い(Memcachedで100,000req/sec出せるマシンで、MySQLのpkeyによる単純なSELECTをした場合、10,000req/sec出るかどうか)。SQLパーサやらなんやらを捨てない限りこの速さには対抗できない。RDBには、1コネクション1スレッドというモデルが持つ、接続数がスケールしないという制約もある。 また、memcacheプロトコルは、get_multiが使える。get_multiを効果的に活用した場合、RDBとの差はさらに広がると思う。 RDBで大丈夫なアプリも Viewキャッシュが効果的なア

    Webアプリをとりまく最近のKVS事情、雑感 - Tous Les Jours 攻防記
    studio-m
    studio-m 2009/11/14
    これからはメインがKVS、RDBは検索用インデックス用途
  • GoogleGuysがLang-8に遊びに来たよ! (そして出口社長の授業を受ける) - Tous Les Jours 攻防記

    Googleの中の人たちがLang-8に遊びにきてくれました! 社のProdcutManagerを中心に、16名程。総勢30名ほどで東アジアツアー(日中国韓国台湾)をしており、その最中に京都に立ち寄ったとか。 京都市内で二手に分かれて、うち一派がLang-8にきてくれたみたい。お昼前の一時間ほど時間をいただけることになり、Googleの中の人たちにプレゼンという、めったにない機会を得たので、どんな話をしたのか(したかったのか)を少し整理してみようかと。 まずオフィス室内に入ってもらい、熱気漂うサーバ群を眺めてもらう。 「ここでサービスを稼働させています」 GoogleGuys「この部屋、暑い。。。」 続いて共用会議室に移動してプレゼン。 Lang-8は、「誰もが先生になることができる、語学のためのコミュニティサイト」。Lang-8上では主に「書くこと(Writing)」を勉強する

    GoogleGuysがLang-8に遊びに来たよ! (そして出口社長の授業を受ける) - Tous Les Jours 攻防記
  • Webアプリ開発における「内部APIモデル」 - Tous Les Jours 攻防記

    前回の話は、一回のエントリーでは書ききれない内容でした。。以下もうすこし詳しく書き直してみます。 Webアプリ開発における「内部APIモデル」とは、ネットワーク越しに外部サイトのWebAPIを呼び出すかのごとく、自サイト内のリソースに対して内部専用のWebAPIでアクセスする仕組みを導入し、分散処理を行うモデルのことです。典型的なWebアプリでは、データベースがここでいうリソースに該当するかと思います。 図にすると以下のようなイメージです。 今回、Lang-8で実際に「内部APIモデル」を導入してみたので、気づきの点などをこのエントリーにまとめてみました。 ※導入のいきさつについては、前回のエントリーで触れています。 「内部APIモデル」を採用するメリット Webアプリ開発において「内部APIモデル」を採用するメリットは2つあります。 (1)言語やフレームワークの選択自由度が上がる 現在運

    Webアプリ開発における「内部APIモデル」 - Tous Les Jours 攻防記
    studio-m
    studio-m 2009/01/23
    バックPerl、フロントPHPで似たようなことやってる。受け渡しは今のところXMLで、レスポンス丸ごとmemcachedに突っ込んでる。自分の課題としては責任範囲の切り分けをもう少しすっきりさせたい。
  • 1