pidstat の結果を Graphite に送る bash スクリプト | iret.media
ども、 cloudpack の かっぱ (@inokara) です。 はじめに pidstat というツールを教えて頂いた上にその結果を Graphite に送るスクリプトも見つけたのでそれをちょっと改変して各プロセス毎の CPU 使用率を Graphite に送るスクリプトを作ってみたメモ。 参考 pidstat(1) – Linux man page 原因調査用Linuxコマンド プロセス単位のリソース使用量を調べる (pidstat) 10 pidstat Examples to Debug Performance Issues of Linux Process report per-process IO stats with pidstat or sar pidstat とスクリプト 各プロセス毎のリソース状態を出力するツールで sysstat パッケージに含まれる pidstat
graphite のバックエンド（carbon-cache と whisper）を Cassandra に置き換える cyanite を試したメモ（1） | iret.media
ども、 cloudpack の かっぱ (@inokara) です。 はじめに Sensu のメトリクス要員としてもはやデフォルトな Graphite ですが、バックエンドとなる carbon-cache や whisper のスケールに頭を悩ませている方々は多いようです。そんな中でストレージ部分を Cassandra に置き換える為の cyanite というアプリケーションが公開されているので試してみました。 cyanite とは プロジェクト、参考 pyr/cyanite Cassandra Summit 2014: Cyanite — Better Graphite Storage with Apache Cassandra Graphite at scale with Cassandra 改めて cyanite とは 読み方は「サイアナイト」 Clojure にて実装されている（C
Hosted Graphite を使って 5 分で始める俺の可視化（2）~ fluentd からメトリクスを送る ~ | iret.media
ども、cloudpack の かっぱ (@inokara) です。 はじめに Hosted Graphite に fluentd からメトリクスを送ってみたいと思いますので fluentd プラグインを作ってメトリクスを送ってみたい。 参考 Docs » Getting Started With Hosted Graphite Docs » Language Guide fluent-plugin-graphite Hosted Graphite にメトリクスを送る為には… 基本的には… API Key が必要になる 従来の Graphite と同様に TCP や UDP を利用する Hosted Graphite ではない普通の Graphite は Render API ってのはある 実際に送る… TCP で送る場合には… echo "YOUR-API-KEY.conc_users 1
Hosted Graphite を使って 5 分で始める俺の可視化 | iret.media
ども、cloudpack の かっぱ (@inokara) です。 はじめに を語る間もなくHosted Graphite という Graphite の SaaS 版があるようなので試してみました。 おお。 歴史的な経緯とかはよくわかりませんが、とにかく使ってみたいと思います。尚、残念ながら継続的に利用するには有料プランとなりますが、14 日間は無料体験があるので試せるだけ試してみたいと思います。 Hosted Graphite とは 泣く子も黙る Graphite をベースにした SaaS 型サービスのようですが、Graphite の標準的なダッシュボード以外にも Grafana や Tasseo 等をダッシュボードとして利用する事ができます。 料金 料金はこちらを御覧ください。機能の割には料金体系が多い印象ですがちょっと纏めてみました。
mruby + mruby-socket で Graphite にメトリクスを送るメモ | iret.media
ども、cloudpack の かっぱ (@inokara) です。 以前に… ngx_mruby で Nginx への接続数等の内部情報を取得して InfluxDB と Tasseo で可視化してみる 上記の記事を書いた際に @matsumotory さんより以下のようなツイートでご紹介頂きました。 面白い。これを使えばnginxとかApacheの時系列データ解析が手軽にできそう。ngx_mruby+socket介してtcp/udp通信で他のミドルウェアから値取るのも簡単なのかなー。 / “ngx_mruby で Nginx …” http://t.co/78QJHL8cIE — MATSUMOTO, Ryosuke (@matsumotory) 2014, 12月 19 記事を書き終えた後で InfluxDB にメトリクスを送る際に HTTP で送るのはちょっと大袈裟でコスト高いなーと思
Raspberry Pi で室内の温度を可視化するよー | iret.media
ども、お天気お兄さんの cloudpack の かっぱ（@inokara）です。 はじめに よくありがちですが…USB タイプの温度計を入手したので Raspberry Pi につないで室内の温度を可視化してみました。 USB タイプの温度計 これ こちらの「Raspberry Piと980円USB温度センサーで北海道の冬をロギングしてみる徒労日記」の記事を参考にさせて頂いて以下を入手しました。 USB温度計! USB thermometer-528018 パッケージは怪しい感じで 8cm の CD-ROM がなんかついてましたが捨てました。 準備 上記の記事 を参考にさせて頂いて温度を計測するツールを用意します。 温度を計測するには、こちらの bitplane/temper のツールを利用しますので git clone しておきます。 git clone git://github.com
AWS 白帯シリーズ(18) CloudWatch のメトリクスを Ruby 使って Graphite に残しておくっぺ | iret.media
どうも、連投ですいません。cloudpack の かっぱ（@inokara）です。 はじめに フワッとしか知らない CloudWatch の勉強を兼ねて AWS SDK for Ruby を使ってメトリクスを Graphite に残すようにしてみたのでメモです。 尚、下記の内容については個人の解釈となり実際の内容とは異なる可能性がありますのでご注意下さい。また、すごい今更二郎感半端ありませんがご容赦下さい…m(__)m CloudWatch の基礎 参考 [AWSマイスターシリーズ]Amazon CloudWatch & Auto Scaling CloudWatchの使い方 Amazon CloudWatch とは AWS の各種リソースをモニタリングする為の Web サービス サービス毎に定義されたメトリクス（=監視項目） メトリクスをベースにアラームを設定する カスタムメトリクス（独
Graphite のクラスタ構成を検証する（1） | iret.media
どうも、かっぱ（@inokara）です。 はじめに Graphite を一台で動かすのはそれほど難しくないけど…メトリクス収集台数が増えてくると 1 台では CPU や I/O が辛くなる可能性があるのでクラスタを組んでみましょうってことでクラスタ構成を検証してみます。 あくまでも検証なので結果については設定等によって変わる点とまだ必要な設定が含まれていない可能性がありますので、あくまでも参考程度にご覧頂ければ幸いです。 戦略（という程でもないけど） carbon-relay の relay-method を consistent-hashing でメトリクスデータの保存を分散させる バックエンドには当然 carbon-cache を配置する データベースは今回は whisper graphite-web からは CARBONLINK_HOSTS で各ノードを指定することで分散させたメトリ
fluent-plugin-ec2-metadata の使い方 | iret.media
どうも、かっぱ（@inokara）です。 はじめに EC2 につけたタグ情報を fluentd でレコードやタグで利用できないかなって思っていたら同僚に教えてもらったので使い方のメモです。 fluent-plugin-ec2-metadata とは？ fluentd のレコードやタグにに EC2 のメタデータを含めることが出来る fluentd のプラグインです。 fluent-plugin-ec2-metadata インストール Amazon Linux にインストールしました。 /usr/lib64/fluent/ruby/bin/gem install fluent-plugin-ec2-metadata --no-ri --no-rdoc -V 設定 fluent-plugin-dstat で収集したメトリクスデータのタグにインスタンスのタグを含める場合に以下のように設定を行いまし
Graphite の Carbon 三兄弟について整理したメモ + 冗長化（シャーディング）戦略について調べた | iret.media
Carbon , Carbon , Carbon , Carbon…Carbon 三兄弟、Carbon!（だんご3兄弟より…）のかっぱ（@inokara）です。 はじめに Graphite をバックエンドでは Twisted という Python 製ネットワークアプリケーションフレームワークを利用して作られた Carbon というツールが動いています。（ややこしい…） ちなみに Graphite のテクノロジースタックとしては以下のようになっています。 これは以前にどこかで書いたかもしれませんが、自分の復習を兼ねて再掲します。 話は Carbon の話に戻します。 この Carbon ですが Graphite では以下の三つのデーモンが利用可能です。 carbon-cache.py carbon-relay.py carbon-aggregator.py ということで、こちらを日本語に勝手
Graphite の Dashboard を今まで使っていなくてごめんなさい | iret.media
どうも、ご無沙汰してますかっぱ（@inokara）です。 反省 sensu のメトリクス保存先として暗黙のデフォ（だと思っている） Graphite ですが、下図のトップページのみしか使っておらず、左のペインから一つ一つパスをクリックしては代わる代わるグラフを表示させながら複数のグラフを見ていました。 例えば、上記は Windows Server のロードアベレージを sensu で収集してみたものですが、メモリの使用量も見たいとなった場合に「あれっどーすんだっけ」な状態で、最終的には Grafana でなんとかするからいいやーって思って逃げ続けてきました。 すいません。 ところが… Dashboard クリックすると以下のような Dashboard を作れるようになりました。 Graphite だけでも事足りる（かも） メトリクスを利用して計算させたり… Graphite の関数を呼び出
siege の標準出力に出力されるレスポンスタイムを fluentd を経由して Graphite で可視化する | iret.media
どうも、ベンチマークおじさん、可視化おじさんの かっぱ(@inokara) です。 siege の標準出力には何が出力される？ 内容的には以下のようなものが出力されています。 リクエストバージョン ステータスコード レスポンスタイム（秒） レスポンス容量（バイト） リクエストメソッド リクエストパス 今回、出力されるレスポンスタイムを Graphite で可視化してみたいと思います。 可視化への道のり 標準出力を CSV 形式に 特に難しいことはありません .siegerc に以下を記載しておけば標準出力が CSV 形式になります。 csv = true 上記の設定を行った後に siege を実行すると以下のように標準出力に CSV 形式で出力されます。 HTTP/1.1,200, 0.43, 2906,/index.html,0,2014-09-03 09:05:07 ただし… この標準
Siege でお手軽 Web 負荷テスト（3）〜 fluentd + dstat + graphite でお手軽可視化 〜 | iret.media
どうも、かっぱ (@inokara) です。 引き続き… Siege でお手軽 Web 負荷テストシリーズ宜しくです。 負荷テストの観点（超私的） 超私的な負荷テストのざっくりとした観点です。 どんな負荷を掛けたか？ そして、その結果は？ テスト対象のリソース変化は？ これらを全て fluentd と Graphite を利用して可視化してしまいたいと思います。 どんな負荷を掛けたか？、そしてその結果は？ Siege を利用して連続的に負荷を掛けます。 siege 以下のように実行して負荷を掛けます。 /usr/local/bin/siege -c 100 -r 1 --time=10m --log=/tmp/siege_log --benchmark https://example.inokara.com/ siege に関して過去に書いた記事を御覧くださいませ。 siege + flu
Graphite のタイムゾーン修正 | iret.media
どうも、小ネタ過ぎてごめんなさいのかっぱ (@inokara) です。 ちょっとした可視化にオススメ ちょっとした可視化（サーバーリソースだったり、小遣いだったり…）には Graphite はオススメです。但し、大規模での運用の際にはコツが必要なことがあるようです。 時刻はちゃんとしておきたいよね セットアップしたての Graphite はタイムゾーンが America/Chicago というインターナショナルな状況です。別にこれを脳内変換出来る方は良いのですが、自分は変換しようとするときっとフリーズするのでタイムゾーンは修正したいと思います。 修正は簡単です。 --- local_settings.py.bk 2014-08-24 21:04:06.656724147 +0900 +++ local_settings.py 2014-08-30 08:34:10.748427413 +0
Graphite Setup for Amazon Linux | iret.media
どうも、可視化大好きおじさんことかっぱ (@inokara)です。 はじめに ちょい必要になったのでセットアップしました。とりあえず、以下をコピペで貼っつけていけば Graphite が利用出来るはずです。 参考 Install graphite on a CentOS/RHEL server CentOSにRPMでGraphite+Diamondをインストールする Graphite Setup for CentOS 手順 epel リポジトリの追加 rpm --import http://ftp-srv2.kddilabs.jp/Linux/distributions/fedora/epel/RPM-GPG-KEY-EPEL-6 wget http://ftp-srv2.kddilabs.jp/Linux/distributions/fedora/epel/6/x86_64/epel-r
Graphite の storage-schemas.conf メモ（2） | iret.media
日々是精進のかっぱ(@inokara)です。 はじめに お詫びの意味を込めてまとめました…whisper データベースの中身を覗いたり、リサイズしたりしてみます。 やってみる CentOS の場合に RPM で Graphite をインストールすると /var/lib/carbon/whisper/ 以下に whisper のデータベースが生成されます。 例えば… 以下のように Graphite にデータを送った場合には… echo "kappa-test.MARKDOWN_HASH0d42a059936e5d750fd0de7476035ec8MARKDOWN_HASH.MARKDOWN_HASHd74a9e928fe21c673df6d9090c08b6bcMARKDOWN_HASH MARKDOWN_HASHf9beda64c9d78bb5c6bd258047a16a4bM
Graphite の storage-schemas.conf メモ | iret.media
whisper 弄る上でちゃんと把握しておきたいのでメモ。ということは今までちゃんと理解できていなかったかっぱ(@inokara)です。 はじめに 10 Things I Learned Deploying Graphite はじめに読んでおくべきでした。 retention を読み解く [nginx_requests] pattern = nginx\.requests\.count$ retentions = 1s:7d,1m:30d,15m:5y [nginx_requests] はルールの名前 pattern は nginx.requests にマッチするパスが対象 1s:7d,1m:30d,15m:5y が難解だが意訳すると… 1 秒毎を 7 日間、1 分毎は 30 日間、15 分毎は 5 年間保存しまっせという意味 例えば、retention に以下のような設定を行った場合に…
Sensu から出力されるメトリクスデータ収集を Graphite の carbon-relay でパス毎に異なる Graphite サーバーの carbon-cache に保存してみる | iret.media
Sensu から出力されるメトリクスデータ収集を Graphite の carbon-relay でパス毎に異なる Graphite サーバーの carbon-cache に保存してみる cloudpack の 自称 Sensu芸人 の かっぱこと 川原 洋平（@inokara）です。久しぶりに Graphite ネタです。 carbon-relay とは… carbon-relay とは Graphite によるデータ収集をレプリケーションやシャーディングする機能。carbon-relay を使えば carbon-cache のスケールアウトとかお手軽に出来るようです。（但し、carbon-relay が SPOF に成りうるので別途冗長化等を検討する必要があるようです） Graphite の各種コンポーネントについては下記のスライドで一目瞭然です。 Monitoring Casual
Mackerel meetup #1 に参加しました | iret.media
cloudpack の 自称 Sensu芸人 の かっぱこと 川原 洋平（@inokara）です。 hatena が提供している監視ツール mackerel のミートアップに参加させて頂いた際の聴講メモを共有させて頂きます。聞きながらのメモとなりますので漏れや間違いを見つけられた場合にはご指摘いただければ幸いです。 ステッカー頂きました！ 実際に開発されている方の生の声を聞けて大変勉強になりました。ありがとうございました！また、会場をご提供頂いたフリークアウトさんありがとうございました！ mackerel の概要 登壇者 @motemen さん アジェンダ Overview 機能紹介 具体的なユースケース フィードバックもよろしくお願い致します Overview サーバー管理ツール もともとはてなの社内ツール 鯖 3 新しいビジネスチャンス 構成 Scala + Play PostgreS
Graphite と Sensu について | iret.media
cloudpack の 自称 Sensu芸人 の かっぱこと 川原 洋平（@inokara）です。 Sensu とメトリクスツールはほぼ一択の Graphite について調べてまとめていきます。 Graphite の基本 アーキテクチャ メトリクスを収集するのが carbon データを保存しておくのが whisper whisper に保存されたメトリクスを表示するのが graphite-web 設定ファイル /etc/carbon/carbon.conf /etc/httpd/conf.d/graphite-web.conf /etc/graphite-web/ 以下 尚、上記は CentOS 6.5 上に各種ツールをパッケージインストールした場合の設定ファイルのパスになるので環境に応じて読み替える必要がある。 最小構成 carbon-cache が利用される whisper のデータ保
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
