Fluentd を使って CloudWatch のメトリクスを Graphite で見れるようにする | iret.media
cloudpack の 自称 Sensu芸人 の かっぱこと 川原 洋平（@inokara）です。 はじめに CloudWatch は AWS で標準で利用出来る監視ツール メトリクスを収集してマネジメントコンソールがグラフの表示を確認出来たり Alarm を作成することでしきい値を超えた場合等の通知等も行える 但し、メトリクスの保存期間が 2 週間に限られている為、長期レポーティングが必要な場合には別の方法でメトリクスを蓄積する方法を検討する必要がある 今回は Fluentd のプラグイン 2 種類を利用して CloudWatch から Graphite にメトリクスデータを蓄積して Grafana のカッコイイ画面でグラフを見るような流れを作ってみる 作業にあたって fluentd とは fluentd もはや説明不要の泣く子も黙るログ収集ソリューション Graphite と Graf
cloudpackブログ - Fluentdってなんじゃ？（設定ファイルをリモートから読み込む）
fluentdのドキュメントに以下のような記載がありました。 Configuration File – (3) Include Directive # absolute path include /path/to/config.conf # if using a relative path, the directive will use # the dirname of this config file to expand the path include extra.conf # glob match pattern include config.d/*.conf # http include http://example.com/fluent.conf 最後の行より、HTTPから設定ファイルを取得してインクルードできるようです。 そこで試してみました。 ■common.conf typ
cloudpackブログ - FluentdでJSON形式のログを読み込んで整形する
今回は、下記のようなJSON形式のログをFluentd(Fluentdのプラグイン)で処理を行うために、調査してみました。 { "a": "test", "b": "1", "c": 2, "d": true, "e": "true", "f": [ { "g": "test1" }, { "h": "test2" } ] } このJSON形式のログもTailプラグインによって下記のようにformat jsonで簡単に読み込むことが可能です。 type tail format json path /tmp/test.log tag tail.json pos_file /tmp/tail.syslog.pos type file path /tmp/tail 読み込んだデータは下記のように出力されます。 2013-03-13T16:31:23+09:00 tail.json {"a":"t
cloudpackブログ - 最新バージョン以外のGemを削除する(Fluentd)
Fluentdで利用しているGemのアップデートを、下記のように行うことが多いですが、 確認すると、古いバージョンが、残っていました。 /usr/lib64/fluent/ruby/bin/gem update # ls -1 /usr/lib64/fluent/ruby/lib/ruby/gems/1.9.1/gems/ aws-sdk-1.7.1 aws-sdk-1.8.1.1 aws-sdk-1.8.2 aws-sdk-1.8.3.1 ... 古いバージョンは必要無いため、最新のバージョンのみを残し、他は削除したいところです。 そこで、その方法を今回はご紹介します。 下記コマンドを実行することで目的を達成できます。 # yes | /usr/lib64/fluent/ruby/bin/gem cleanup ... Attempting to uninstall aws-sdk-1.
cloudpackブログ - Fluentdの既存のプラグインを継承してメソッドをオーバーライドして使ってみた
Fluentdで既存の(Gemでインストールした)プラグインを改修して利用する方法を紹介します。 前提としてFluentdは「CentOS6にFluentdをインストール」の手順にてインストールされているとします。 ポイントは以下のようになります。 継承したクラス(ファイル)は/etc/td-agent/pluginに配置 ファイル名はプラグインのファイル名のルール通り 継承するプラグイン(クラス)のファイルをrequireする tagomoris / fluent-plugin-datacounter : fluent-plugin-datacounter 上記プラグインを切りの良い間隔(1分間隔の出力ならhh::mm::00でログ出力)で ログ出力(watchメソッドをオーバーライド)するようにしてみました。 # cat /etc/td-agent/plugin/out_datacou
cloudpackブログ - AIDEで改竄検知した情報をFluentdでまとめる
以前紹介した記事「AIDEでファイルの改竄検知(CentOS6)」にてファイルの改竄検知ができるようになりました。 そこで今回、改竄検知の情報を下記のようなFluentdのログとして出力されるよう試みてみました。 2013-02-09T22:41:46+09:00 parsed.syslog {"total":"384","added":"2","removed":"2","changed":"3"} 2013-02-09T22:42:41+09:00 parsed.syslog {"total":"384","added":"2","removed":"2","changed":"3"} ○AIDEの出力の確認 実行すると次のように、確認したファイル数、追加されたファイル数、削除されたファイル数、 変更されたファイル数が出力されます。 # aide --update ... Summar
cloudpackブログ - Fluentdでログのフィルタリング
Fluentdで扱うログをフィルタリング(あるパターンのログを除外)する必要があったため、下記のプラグインを 試してみました。 github/muddydixon : fluent-plugin-filter 尚、FluentdはCentOS6にFluentdをインストールの記事で紹介したように、インストールされていることを 前提としています。 ○fluent-plugin-filterのインストール # /usr/lib64/fluent/ruby/bin/gem install fluent-plugin-filter Fetching: fluent-plugin-filter-0.0.0.gem (100%) Successfully installed fluent-plugin-filter-0.0.0 1 gem installed Installing ri documen
cloudpackブログ - fluentd(td-agent)をmonitで自動復旧
以前、CentOS6にMonitをインストール&初期設定(auditd/crond/ntpd/rsyslog/sshd/postfix)の記事にて Monitで監視(自動復旧)をする設定をしたのですが、今回はよく利用しているfluentd(td-agent)の 監視(自動復旧)を行う設定も用意してみます。 はじめに、下記の設定ファイルを用意しました。 # cat /etc/monit.d/td-agent.conf check process td-agent with pidfile /var/run/td-agent/td-agent.pid start program = "/etc/init.d/td-agent start" stop program = "/etc/init.d/td-agent stop" if 5 restarts within 5 cycles then
cloudpackブログ - FluentdでWeb Storage Archiveパターン
今回は、先日書籍（Amazon Web Servicesクラウドデザインパターン設計ガイド）が発売された Cloud Design Pattern（CDP）の記事になります。 今回の対象は「Web Storage Archiveパターン」です。 この「実装」の部分で、下記のような記載があります。 Fluentdと、そのAmazon S3 Output Pluginを利用して短いスパンでログを S3にアーカイブすることも可能。 実際に試してみました。 (下記のようにFluentdがインストールされていることを前提とします) CentOS6にFluentdをインストール ○利用するディレクトリの準備 gitから引っ張ってくると簡単です。 # yum -y install git # cd /opt/ # git clone https://github.com/suz-lab/suz-lab-
cloudpackブログ - FluentdのCloudWatchプラグイン(fluent-plugin-cloudwatch_ya)をRubyGems.orgに公開してみた
下記一連の記事でアップデートしてきた、FluentdのCloudWatchプラグインをRubyGems.orgに公開してみました。 既にfluent-plugin-cloudwatchは登録済みだったため、プラグイン名を fluent-plugin-cloudwatch_ya(Yet Another Plugin for Amazon CloudWatch)としました。 dstat(fluent-plugin-dstat)の情報をCloudWatchに登録してみた FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE2!) FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE!) FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた ソースはGitHubになります。 インストール
cloudpackブログ - FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE2!)
以前紹介した記事(「 FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE!) 」)を 更にアップデートしてみました。 ○変更点 DataCounterの一つの集計ログからCloudWatchへ複数のデータを登録可能に DataCounterは一つでよい(patternNで区別) Dimensionをタグ(Tag)からキー(Key)に変更 KeyにはpatternNのキーを登録 ○設定ファイル(/etc/td-agent/td-agent.conf) type tail format syslog path /opt/suz-lab/var/log/syslog/all.log pos_file /opt/suz-lab/var/lib/td-agent/pos/tail.syslog.pos tag tail.syslog type copy t
cloudpackブログ - dstat(fluent-plugin-dstat)の情報をCloudWatchに登録してみた(その2)
これまで下記のようにFluentdを使ってCloudWatchのカスタムメトリクスにデータ登録作業をしてきました。 FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE2!) FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE!) FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた 今回は、fluent-plugin-dstatの紹介の記事のプラグインで取得したデータを、CloudWatchに登録してみました。 (CloudWatchプラグインを汎用化するための目的もあります) 最終的にはCloudWatchは下記のような状態になります。 (Load Avarageの1分平均をCloudWatchに登録) ○dstatとfluent-plugin-dstatのインストール #
cloudpackブログ - FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた(UPDATE!)
本記事は少し古いものになりますので、新しい情報は「FluentdからCloudWatchのカスタムメトリクスにデータを 登録してみた(UPDATE2!)」を参照下さい。 以前の記事(「FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた」)にて仕組みと それを実現するFluentdのプラグイン(out_cloudwatch.rb)を紹介しました。 今回は、それを更に次のようなことができるようにアップデートしてみました。 ※historyはbashのHistoryログが対象です。 また、auditはauditdのAuditログが対象となります。 上記の紹介記事からの改良点 複数のDataCounterプラグインで集計をした結果を、一つのCloudWatchプラグインでデータ登録 できるように。 一つのCloudWatchプラグインで、複数のカスタムメトリクスを対象
cloudpackブログ - FluentdからCloudWatchのカスタムメトリクスにデータを登録してみた
以前紹介した記事(BashのHistoryをFluentdのDataCounterで集計してみた)にて集計したデータを CloudWatchのカスタムメトリクスに登録し、次のようなAWSコンソールでのグラフ表示等の機能が 利用できるようにしてみました。 CloudWatchへのデータ登録は下記のFluentdのプラグインを作成して行なっています。 /etc/td-agent/plugin/out_cloudwatch.rb module Fluent require 'aws-sdk' class CloudWatchOutput Fluent::Plugin.register_output('cloudwatch', self) include SetTagKeyMixin config_set_default :include_tag_key, false include SetTim
cloudpackブログ - BashのHistoryをFluentdのDataCounterで集計してみた
以前、BashのHistoryをSyslogに出力(CentOS6)の記事を紹介しましたが、実際のログは次のようになります。 # cat /opt/suz-lab/var/log/syslog/all.log | grep bash Jan 13 21:15:43 ip-10-200-32-46 -bash: HISTORY: PID=22858 UID=0 less /tmp/tail.syslog.20130113.b4d324ea9e0a8bf03 Jan 13 21:16:13 ip-10-200-32-46 -bash: HISTORY: PID=22858 UID=0 cat /tmp/tail.syslog.20130113.b4d324ea9e0a8bf03 | grep bash Jan 13 21:23:37 ip-10-200-32-46 -bash: HISTORY
cloudpackブログ - CentOS6にFluentdをインストール
当然、Blog(Cache)化されてると思って調べてたのですが、何か、書いてないようで、忘れないうちにBlog(Cache)化しておきます。 Install from rpm Repository Fluentd rpm Installation | Fluentd インストール 上記の通り、コマンド一発です！ # curl -OL http://toolbelt.treasure-data.com/sh/install-redhat.sh # chmod 755 install-redhat.sh # ./install-redhat.sh # rm -f install-redhat.sh yumレポジトリの確認 やはり、yumリポジトリが登録されてました。 # cat /etc/yum.repos.d/td.repo [treasuredata] name=TreasureData
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
cloudpackブログ - Fluentdってなんじゃ？（datacounter+Growthforecast＋RDSでステータスコードの傾向を可視化)