タグ

HBaseとHadoopに関するkarahiyoのブックマーク (3)

  • Hadoopファミリーの人気投票 - Tech-Sketch

    といってもロゴのはなし。 kkawamuraさんの Hadoopと愉快な仲間たち ~おなじみのキャラクターを集めてみた~ にも さてHadoopを使っている人が、みんな口を揃えて言うのが「ロゴ(キャラクター)がダサイ」ということです。果たして当にそんなにダサいのか と書かれていたり、Twitterなんかでもそういう空気。 そうなの?!Hadoopは結構かわいいよ! 援護射撃を期待して、社内SNSで聞いてみました。その結果は、、、 ほらほら! Hadoopけっこう人気あるじゃない! とはいえ、その理由は:あえて選ぶなら イラッとくる。でもたぶんそこがいい。長く見てたらきっと愛着が沸く。憎しみも沸きそう。 見慣れたからかも 叩かれてますが結構好きです。微妙な動きが描写されてますがどの部位がどう動いてるのか不明で、それがまたいいと思います。 やる気のなさそうなところがいい メジャー

  • HTraceによるHBaseのトレーシング - iwasakimsの日記

    (この記事は、Hadoop Advent Calendar 2013の10日目の記事です) 並列分散処理の解析 HadoopやHBaseのような並列分散環境では、処理が多数のノードをまたがって実行されるために、トレーシングや性能のプロファイリングが難しくなります。各ノードで動作するサーバプロセスのロジックでは、他のノードにRPCで処理を依頼して結果を非同期に待つというパターンが多いため、CPUやネットワークのディスクのI/O帯域といったリソースを使い切る状況にはなりにくく、oprofileのようなプロファイラを利用して測定してみても、ボトルネックの手がかりがなかなか見つかりません。 そのような並列分散処理のトレーシングに利用しているツールとしてGoogleが発表したのがDapperで、例によってそれを参考にして作られたオープンソース実装としてHTraceがあります。HBaseのtrunkに

    HTraceによるHBaseのトレーシング - iwasakimsの日記
  • HBase 0.96 で導入される新しいコンパクション「Exploring Compaction」 - 科学と非科学の迷宮

    Hadoopアドベントカレンダー2013、3日目を担当する @shiumachi です。 今回は HBase 0.96 の新機能を一つ紹介します。 要約 HBase 0.96 は賢くなったのでみんな使おう。 コンパクションのおさらい HBase では、Log Structured-Merge tree (LSM-tree) というデータ構造を使っています。 LSM-tree を簡単に説明すると、入力されたデータをログとメモリ上のデータストア(Memstore、メモリストア) に書き込みます。 メモリストアがいっぱいになると、まとめてディスクにフラッシュし、新しいストアファイルを生成します。 このストアファイルがたまってきたときに、少しづつ一まとめにしてなるべくファイル数を少なくするようにします。これがコンパクションです。 コンパクションを実行することにより、ファイルは一つにまとまります。こ

    HBase 0.96 で導入される新しいコンパクション「Exploring Compaction」 - 科学と非科学の迷宮
    karahiyo
    karahiyo 2013/12/10
    コンパクションアルゴリズム
  • 1