Getting Started: Coordinating Distributed Applications with ZooKeeper This document contains information to get you started quickly with ZooKeeper. It is aimed primarily at developers hoping to try it out, and contains simple installation instructions for a single ZooKeeper server, a few commands to verify that it is running, and a simple programming example. Finally, as a convenience, there are a
大規模分散技術勉強会 in 名古屋 トップページページ一覧メンバー編集 Hadoop本読書会 - 13章 ZooKeeper 最終更新:ID:hgJMx3CHVA 2011年04月01日(金) 00:02:28履歴 Tweet Hadoop本13章が分かりやすい解説になっているとは言えないので、勉強会資料を書き起こしてます。Hadoop本は参考書程度に。(terurou) ZooKeeperとは A Distributed Coordination Service for Distributed Applications 「分散システムのための分散協調サービスです(キリッ」 『えっ』「えっ」 簡単に言うと分散システムでの面倒なところをよしなにしてくれるモノ 分散システムでロック・メタデータ共有・データ更新時のイベント通知等を行ってくれる Google MapReduceファミリーのChub
ZooKeeperに100万件ぐらいノードを投入して、getChildren()するとConnectionが強制的に切断されてKeeperExceptionが発生する。 原因 クライアント側で受信したパケットサイズが大きくなりすぎると(デフォルト4MB)、強制的にConnectionを閉じるようになっている。 対処法 クライアント側のJVM起動時に システムプロパティ:jute.maxbuffer を設定する。16MBを上限とする場合は以下のようになる。 java -Djute.maxbuffer=16777216 ... ちなみにZooKeeper Administrator's Guideには、「jute.maxbufferはznodeのデータサイズ上限値」と書いてあるが、それはサーバ側の話なので、この件とは関係がない。 参考 Error 500 Mail message with g
ZooKeeper: 面倒な分散システムのコーディネートを支援するサービス ZooKeeper は、分散アプリケーションのためのパフォーマンスの高いコーディネーションサービスです。ZooKeeper では、名前付け、設定管理、同期化、各種グループサービスなど、利用頻度の高いさまざまなサービスが用意されているので、これらのサービスをゼロから作成する必要はありません。ZooKeeper をそのまま使えば、合意プロトコル、グループ管理プロトコル、リーダー選挙プロトコル、およびプレゼンスプロトコルを実装できます。ZooKeeper を基に、独自のニーズに対応したサービスを構築することもできます。 以下のドキュメントでは、ZooKeeper のコンセプトや ZooKeeper を使うための手順について説明しています。ドキュメントを読んでわからないことがあったら、メーリングリストに質問を投稿するか、ア
前回のエントリの最後に「Programmers Guideをみると、クライアントプログラムなどの作成方法などが解説されていますが、とりあえず今回は HBase のほうに進むということで、ZooKeeper についての話はいったんここで終わります。」なんて書きましたが、HBase のクラスタ環境を構築するためにはどうも ZooKeeper もクラスタ環境になっている必要があるようなので、ZooKeeper をクラスタ化してみます。 設定については、前回(d:id:k155e1:20100420:1271757128)を参照してください。 マニュアルでいうと Running Replicated ZooKeeper あたりからでしょうか。 HBase のところで出てきますが、HBase をクラスタで動作させる場合、ZooKeeper Quorum を事前に起動させておく必要があります(HDFS
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く