タグ

2012年10月3日のブックマーク (2件)

  • 複数のリモートホストで並列にコマンドを実行して結果をファイルでダウンロードするやつ書いた - 昼メシ物語

    コード(rop.rb) 使い方 まずリモートで実行したいスクリプトを用意します。例えばログファイルのgrepとかです。 $ cat script.txt grep hoge /var/log/nginx/access.log で、例のやつを実行します。 $ ruby rop.rb -H 'app-0{01..05}' -f script.txt そうするとで対象ホストに並列(デフォルトでは5スレッド。-nオプションで指定可)でSCPとかSSHでスクリプトが送られて実行されて、その結果がファイルとしてダウンロードされます。ダウンロードしたファイルは /tmp/rop/0522-2306-11/app-001 /tmp/rop/0522-2306-11/app-002 /tmp/rop/0522-2306-11/app-003 /tmp/rop/0522-2306-11/app-004 /tm

    複数のリモートホストで並列にコマンドを実行して結果をファイルでダウンロードするやつ書いた - 昼メシ物語
    muto_masa
    muto_masa 2012/10/03
    これ数分でカスタマイズしてみるかな。作者には連絡とる。コードが綺麗。
  • Flume ユーザーガイド

    Flume のアーキテクチャは、シンプルながらも堅牢で柔軟性があります。Flume の中核をなす抽象化は、ストリーム指向の データフロー です。データフローは、1 つのデータストリームが、その生成元から最終的な宛先まで、どのように転送され、加工されるかを表すものです。データフローは、いくつかの 論理ノード から構成されており、論理ノードは、受け取ったイベントを加工したり、集約したりすることができます。これらの論理ノードがチェインのようにつながって、データフローを形成します。これらの論理ノードのつながり方のことを、論理ノードの 構成 といいます。 これらすべてを管理するのが Flume マスター です。Flume マスターは、Flume のすべての物理ノードと論理ノードに関する情報を把握している独立したサービスです。マスターは論理ノードに構成を割り当て、ユーザーが行った構成の更新をすべての論

    muto_masa
    muto_masa 2012/10/03
    よくわからないので読んでる。