タグ

2014年8月28日のブックマーク (6件)

  • fluentdの簡単な使い方、設定方法一覧

    fluentdはログの転送・集約を簡単に行うためのツール fluentd ログの転送・集約を行うためのツール。複数台のサーバーを運用している時にそれぞれのサーバーにたまるログを、簡単な記述で特定の場所に集約できる。 今までは同じことをどうやって実現していたの? バッチでコピーしたり、似たようなことをやるScribeというツールを使っていた。この方法だと、設定が複雑になりがちだし、バッチだとリアルタイムに処理することができなかった。 fluentdの利点は? 設定が簡単、かつリアルタイムに処理できること。fluentdを使うとバッチではなくリアルタイムなストリーミング処理ができる。 fluentとfluentdのどっちの読み方が正しいの? 一応、fluentdが正しいっぽいです。 fluentdのインストール方法 簡単なのは、GemやRPMを使ったインストール。yumでのインストールも自分で

  • 設定ファイル | Fluentd

    Please provide a valid email address and we will send you a copy of the Fluentd Documentation PDF immediately. Email Download この記事ではFluentd設定ファイルの基的な概念について説明します。 Table of Contents 概要 設定ファイルの場所 ディレクティブ一覧 (1) Sourceディレクティブ (2) Matchディレクティブ (3) Includeディレクティブ 概要 設定ファイルは、ユーザーが(1)inputプラグインとoutputプラグインを選択し、(2)プラグインパラメータを指定することで、Fluentdの入出力の振る舞いを制御できるようにします。このファイルはFluentdを正常に使用するために必要不可欠です。 設定ファイルの場所

    Kshi_Kshi
    Kshi_Kshi 2014/08/28
    公式ドキュメント
  • td-agent(fluentd)でtagを色々してみたメモ①-タグにhotname追加、タグを書き換え、タグを入れ替えとかとか - tweeeetyのぶろぐ的めも

    はじめに td-agent使って最初はすこし四苦八苦しましたが、 だいぶ期間も経ってしまって忘れそうなのでタグの扱いについて自分なりにメモっておこーっていう記事です また、各プラグインの詳細は開発者の方のサイトや参考になるサイトも多数あるので ピンポイントで使った感じだけをそのままメモ 補足 そんなにテクニカルでも有用でもないカモですがこちらにメモまとめをメモっておきました →td-agent(fluentd)を番サ―ビスで小さく使ってみたメモ-まとめ ながれ こんな感じで書いてみました 前提とか(fluent-plugin-parser) 前提 関連ディレクトリ構成 イメージ タグにhostname追加したい(fluent-plugin-config-expander) タグをjsonの中身でパターンマッチングして書き換えたい(fluent-plugin-rewrite) タグを入れ替

    td-agent(fluentd)でtagを色々してみたメモ①-タグにhotname追加、タグを書き換え、タグを入れ替えとかとか - tweeeetyのぶろぐ的めも
  • List of Plugins By Category | Fluentd

    Amazon Web Services / Big Data / Filter / Google Cloud Platform / Internet of Things / Monitoring / Notifications / NoSQL / Online Processing / RDBMS / Search / AMAZON WEB SERVICES Certified Download Name Author About Version BIG DATA Certified Download Name Author About Version FILTER Certified Download Name Author About Version GOOGLE CLOUD PLATFORM Certified Download Name Author About Version I

  • プラグインを書く | Fluentd

    Please provide a valid email address and we will send you a copy of the Fluentd Documentation PDF immediately. Email Download Table of Contents カスタムプラグインをインストールする インプットプラグインを書く バッファドアウトプットプラグインを書く Time Slicedアウトプットプラグインを書く ノンバッファドアウトプラグインを書く Tailインプットプラグインパーサーをカスタマイズする デバッグプラグイン テストケースを書く 参考文献 カスタムプラグインをインストールする プラグインをインストールするために、/etc/fluent/pluginディレクトリにrubyスクリプトを配置してください。 あるいは、lib/fluent/plugin

  • Fluentd(td-agent)でログのフィルタリングを行なう - Devlog

    既存のプロジェクトでは、fluentd(td-agnet)とmongodbを利用してログを収集し、日々のログ解析に役立てています。 主にproxyサーバーやwebサーバー等のアクセスログやユーザ行動ログ等を収集しているのですが、何も設定していないと不必要なログまで収集してしまうため fluent-plugin-filter を使ってログのフィルタリングを行なってみます。 muddydixon/fluent-plugin-filter 環境構成 OS: Amazon Linux AMI 2013.03 td-agent: fluentd-0.10.33 インストール $ sudo /usr/lib64/fluent/ruby/bin/gem install fluent-plugin-filter Fetching: fluent-plugin-filter-0.0.0.gem (100%