タグ

hadoopとcloudfoundryに関するfragarach_the_swordのブックマーク (1)

  • キー分布が偏る場合は性能向上

    最後に12ノードの環境で、複数のHadoopジョブを実行した場合の処理性能について説明する。通常は、1台のサーバー上で複数の処理を同時に実行すると、リソースの競合が発生して性能が低下する。Hadoopで同様の問題が発生するのか調べた。 検証では、同一のHadoopクラスター上で同一処理内容のHadoopジョブを二つ動作させた。キャッシュの影響を排除するために、各ジョブは別のデータを処理するようにしている。 結果はキーの分布が一様な場合とべき分布の場合で異なった(図9)。

    キー分布が偏る場合は性能向上
    fragarach_the_sword
    fragarach_the_sword 2011/08/29
    ITPro連載:Hadoop――企業システムでの実力は?:検証(4)複数ジョブの同時実行:キー分布が偏る場合は性能向上
  • 1