scribeに関するkekatoのブックマーク (3)

  • Scribe / Discussion / Help: Logging with Apache2

  • 障害に強いscribeサーバ構成と設定 - たごもりすメモ

    scribeによるログ配送についていくらか試したりしつつ実戦投入しているのでその話。 今のところピーク時で20Mbps程度の流量で、100Mbpsを超えてくるようになると流量制限をシビアに考えたり中継サーバを複数台構成にしたり考えることになるのかなーと思っているが、現状はまだそこまでやってない。世の中には考えている人がぜったいいるはずなので話を聞いてみたいなあ。なんか「動かしてみた」レベルの話しかぐぐっても見付からない。悲しい。 サーバ構成 各サーバからログを(ほぼ)リアルタイムにscribedに流すのはいいとして、1台立ててるだけだと障害があったら全て終了してしまう。これはまずいので、複数台構成にする。 scribedはdeliverとcentralの両方で起動する。(設定はもちろん異なる。後述。) 通常は各サーバはすべて deliver サーバに接続してログを送る。deliverサーバ

    障害に強いscribeサーバ構成と設定 - たごもりすメモ
  • Scribeでログの集約・収集【前編】 - フタなしカンヅメ

    前回の記事で静的ファイルを別サーバから配信することにしましたが、今度はアクセスログがサーバ毎に分散してしまうので、少々やっかいだなと思いました。 出来るだけ正確でリアルタイムに近い形でログを収集できればいいなという感じです。 まず、考えていたのは一定期間毎に一つのサーバにログを収集していく方法です。せっかくlsyncdも入れているので、rsyncで収集するのが一番簡単そうです。しかし、lsyncdでそのままログファイルをミラーしてしまうと、ログが書き込まれる度に送信しちゃうわけで。。。この辺りはどうにか出来るとは思いますが、みんなはどうやっているのかちょっと調べてみました。 とりあえず、検索してみたら下記のページが見つかりました。 ログ集約・収集について【syslog - 集約】 - プログラマ 福重 伸太朗 〜基へ帰ろう〜 どうやら、「集約」と「収集」では意味合いが違う模様。たしかにそ

    Scribeでログの集約・収集【前編】 - フタなしカンヅメ
    kekato
    kekato 2011/03/01
  • 1