タグ

fluentdとAWSに関するshot6のブックマーク (2)

  • fluentでAuto ScalingインスタンスのログをS3に保存する : toda_k

    弊社の一部検証環境では、AWSのスケジュールや負荷に応じてインスタンスを自動的に増減してくれる機能であるAuto Scalingを使用しています。これにより、必要なときに必要なだけ使えるというパブリッククラウドの特徴を簡単に活かすことができます。 ただし今回の検証で使用するには、ひとつ不都合がありました。スケールダウンするときにインスタンスを「電源ケーブルを引っこ抜くように」落としてしまうため、終了時にログをまとめて転送することができないのです。保存しておきたいログは常時ほかのサーバーや記憶領域に転送する必要があります。 このためのツールとして最近fluentを検証・導入しましたのでご紹介いたします。 fluentとは ログの転送・集約をするためのツールです。プラグインで機能を拡張できる点とログを構造化できる点がとても頼もしく見えます。こちらのブログおよびスライドに細かな紹介が載っていま

  • Treasure Data Blog • Enabling Facebook's Log Infrastructure with Fluentd

    Tweet About This post shows how you can replace Scribe with Fluentd. What is Scribe? Facebook uses Scribe as its core log aggregation service.. The description of Github reads, “Scribe is a server for aggregating log data streamed in real time from a large number of servers.” A network of Scribe servers forms a directed graph. Each server is a node and directed edges represent lines of communicati

  • 1