kazeburo さんが開発をされているサーバリソースの可視化ツール「CloudForecast」ですが、個人的に使ってみていてとても使いやすいなと思っています。もっと使ってくれる人が増えるといいなと思い、自重せずに入門エントリを書いてみました。 CloudForecast って何？ そもそも何なの？という話ですが、CloudForecast とはリソースのグラフ作成ツールとして有名な「RRDTool」の薄いラッパーとして作られています。記述言語は Perl ですので、Perl と RRDTool の使い方が大体分かっている人にとっては導入さえしてしまえばかなりかゆいところまで手が届く＝カスタマイズが簡単かつ自由自在なツールだと思います。とりあえずのイントロとしては kazeburo さんの YAPC::Asia 2010 でのこちらのスライドをご覧頂ければと思います。 RRDTool っ
CloudForecastっていうリソース監視のツール／フレームワーク作った - blog.nomadscafe.jp
「クラウド」って言ってみたかった。今は反省していr 上のグラフは前回のエントリーを公開したときの、当blogを配信しているサーバのトラフィックグラフです。記事を公開した17時にぴょーんとトラフィックが伸びています。4時にも増えているけどこちらは謎。 実はこのグラフもCloudForecastを利用して取得しています。CloudForecastはサーバ等のリソース監視を行うツールもしくはフレームワークで、rrdtoolの薄いラッパーとして動作し、小規模から大規模なサーバ群を一括で管理できるように設計してあります。tokuhirom曰く、「perlが書けてrrdtoolがつかえるsysadminの人だったら使いやすいと思われる」というのがもっともしっくりくるような気がします。Perlとrrdtoolが使える運用者によるカスタマイズ前提なのがフレームワークと呼んでいる所以です。 CloudFor
YAPC::Asia 2010 Tokyo で CloudForecast について喋ってきた - blog.nomadscafe.jp
Yokohama.pm で話したこと+αで、監視についての話、CloudForecastの概要とインストール方法、拡張方法、また生成するグラフの見方、運用方法について紹介しました。 slideshare版の資料にはありませんが、発表で使った資料の最後はShibuya.pmの中継を見ていた息子です。去年の発表でも画像の縮小のサンプルにもつかってました^^ \n\n[Yokohama.pm](https://blog.nomadscafe.jp/2010/07/yokohamapm-6cloudforecast.html) で話したこと+αで、監視についての話、CloudForecastの概要とインストール方法、拡張方法、また生成するグラフの見方、運用方法について紹介しました。\n\nslideshare版の資料にはありませんが、発表で使った資料の最後はShibuya.pmの中継を見ていた息子
GitHub - kazeburo/cloudforecast: the server metrics gathering
CloudForecast - server resource monitoring framework WARNING: Alpha quality code サーバ等のリソース監視をするためのツールです。 RRDToolの薄いラッパー、情報取得のためのフレームワークとして設計されています。 CloudForecastは、4つのプロセスによって動作します。 - 巡回デーモン - グラフ閲覧 HTTPD - 情報取得Gearmanワーカー - RRDファイル更新Gearmanワーカー 小規模な監視では、Gearmanがなくても動作可能です。 動作イメージはdocsディレクトリ以下の cloudforecast.png になります # 巡回デーモン $ ./cloudforecast_radar -r -c cloudforecast.yaml -l server_list.yaml - 起
安定したWebサービスを提供するためには欠かすことができないのが監視です。監視を行うことで障害をいち早く検知し、対応を行うことでダウンタイムを最小限にできます。また負荷の掛かり具合やサーバリソースの消費度合いを明らかにすることでいつ、どのタイミングでサーバやインフラを増強するか、またアプリケーションの改善を行うのかを判断できます。Webサービスの稼働やリソースの「見える化」を実現することで、個人の経験や勘、また根性だけに頼らない運用が可能となり、より的確なタイミングでのシステムの改善、増強を行えます。 稼働監視とリソースモニタリング Webサービスのシステムの監視には大きく分けて2種類の監視があります。1つ目は稼働監視、2つ目はリソースのモニタリングです。稼働監視では監視を行ったタイミングで対象システムに例外があれば、メールを送信するなどのアラートを発生させます。稼働監視に於ける例外とは、
Yokohama.pm #6でcloudforecastについて喋って来た - blog.nomadscafe.jp
Yokohama.pm#6 x Perl Casual#3でcloudforecastについて時間を頂いたので喋ってきました。 すてきな会場を貸して頂いたネイバージャパン株式会社さん、USTREAMを担当してくれた941さんありがとうございます。 発表資料はこちら。
Introduction to CloudForecast / YAPC::Asia 2010 Tokyo
Designing Opeation Oriented Web Applications / YAPC::Asia Tokyo 2011Masahiro Nagano
AWS Tags Best Practices and AWS Tagging Strategies | CloudForecast
AWS Tags Best Practices and AWS Tagging Strategies If you’ve worked in Amazon Web Services for long, you’ve probably seen or used AWS cost allocation tags to organize your team’s resources. AWS tags allow you to attach metadata to most resources in the form of key-value pairs called tags. In this guide (the first in a three-part series), we’ll cover some of the most common use-cases for AWS tags a
CloudForecastに複数サーバ一括表示とデータ取得状態の確認機能付きました - blog.nomadscafe.jp
CloudForecastに何人かの方から要望があった複数サーバの一括表示機能がやっと付きました。 作ってみたら便利で、ライブドアでは既に活用しまくってます。チューニング後の比較や一部のサーバに問題があった場合の確認などにも使えると思います。もちろん右上の日付範囲指定もできるので、特定の期間にしぼってグラフを表示することも可能です。 複数のサーバを表示する時は、サーバリストページで、サーバ名の左側のチェックボックスにチェックを入れます。Gmailと同じくShiftキー+マウスクリックで範囲選択することができます。そして上部メニューの「View Selected Hosts」ボタンをクリックします。選択したサーバはこのボタン横のチェックボックスのチェック外すことで全て解除できます。 さらに、サーバリソースデータの取得状態を確認する機能も追加しました。チェックボックスの左側の「✖」の色でステー
CloudForecastでmemcachedのコネクション数をモニタリング - blog.nomadscafe.jp
先週のmixiの大規模な障害は、memcachedに対する接続が非常に多いところから発生したようなので、CloudForecastでその接続数をモニタリングできるようにしてみました。 （mixiではたぶんおそらくmemcachedは専用のサーバとなっているので、通常のTCP Established数がそのんままコネクション数になるはず） グラフは以下のように出力されます 赤いラインが起動時に指定した -c の値。 ところで、このmemcachedの起動オプションを取得する方法は今までないものだと思っていたのですが、memcached 1.4以降なら「stats settings」というコマンドで取得できるようです。 % telnet localhost 11211 Trying ::1... Connected to localhost. Escape character is '^]'.
MySQLのレプリケーションの遅延状況を取得するプラグインをCloudForecast本体に追加しました。 host_configで --- component_config: resources: - traffic:eth0 - traffic:eth1 - basic - mysql - innodb - mysqlreplication このように追加すれば使えます。 作られるグラフな下のような感じで、秒数による表示とバイナリログのポジションの2つが作成されます。 グラフは某サービスの実際のレプリケーション遅延状況です。データが非常に多いので結構遅れてる事が多いですね。蛇足ですがMySQL4系の場合は「Seconds Behind Master」がないので秒数は常に0になります^^ 大きくレプリケーションが遅延するタイミングがあれば、その際に発行されているクエリを見直してみる等の用
Redisをサービスで利用するというので、CloudForecastで監視するプラグインを作ってみました。 監視項目は Percona の Monitoring Plugins を参考にしてます Redis の統計情報は info コマンドを実行すると得られます。telnet でも実行可能です。 info $1020 redis_version:2.4.11 redis_git_sha1:00000000 redis_git_dirty:0 arch_bits:64 multiplexing_api:epoll gcc_version:4.1.2 process_id:18078 uptime_in_seconds:781399 uptime_in_days:9 lru_clock:1553555 used_cpu_sys:1.90 used_cpu_user:0.82 used_cpu_
久しぶりにcloudforecastの本体に機能追加 グラフ作成時に複数のrrdファイル利用 一つ目は、グラフの定義中に他のrrdのデータを取り込みやすくする為の機能。 今までグラフ定義モジュールのグラフ設定中に <%RRD%> と書くと、それを自動的に該当するrrdファイルのパスへ置換していましたが、これを拡張して <%RRD_FOR サーバIP:リソース名:オプション %> とすることで他のサーバ、他のグラフのデータを楽に読み込めるようになりました。 この機能を利用したのが以下のグラフ。某サーバ群へのnginxのリクエスト数をstackして表示しています ちなみにグラフ設定はこんな感じ DEF:cache1=<%RRD_FOR 10.x.x.x:nginx:80:/nginx_status %>:request:AVERAGE DEF:cache2=<%RRD_FOR 10.x.x.x
1ヶ月前ほどにBlogに書いたサーバリソースの監視ツール CloudForecastは弊社でも導入前提で試験をしつつ、さまざまなアップデートを行っているのでその紹介です 大きく変わったのはWeb画面の見た目です。 サーバ一覧 各サーバのグラフページ 多くのサーバを監視するにあたり、通常は見ないサーバに関してはグループ名をクリックすることで畳んでしまうことができます。見たくないサーバはこれで桶。また、各サーバのグラフページでは、デフォルトでMonthlyとYearlyのグラフの表示をやめています。通常ブラウザの画面には入りきらないと思いますし、参照することも24時間、1週間のグラフに比べて少ないだろうという判断です。表示速度も高速化される期待もあります。月間年間のグラフを参照したい時はワンクリックで表示できるので不便はないと思います 加えて、日時指定でグラフを表示することができます。Pick
AWS CloudFront Pricing and Cost Optimization Guide | CloudForecast
CloudFront is AWS own CDN (Content Delivery Network). CDNs are primarily used for caching, and many customers also use AWS CloudFront CDN as a security layer, or use it to handle network spikes. With AWS CloudFront CDN, when a user requests a webpage or an image, the request is routed to one of Amazon’s 225+ edge server locations. If the edge server already has the resource cached, it’s served to
2010年代にどのMTAを使うのがいいかよくわからないkazeburoです qmailのキュー数をCloudForecastで監視するためのモジュールを書いてみました。 gistです このリソース定義を使うには、メール配送サーバのsnmpd.confに extend qmail /var/qmail/bin/qmail-qstat を追加する必要があります。snmpdがroot以外で実行されている場合は、sudoとか使えばいいのかな。 snmpgetでextendで指定したコマンドの実行結果をとるには、 $ snmpget -c public -v 2c myserver 'nsExtendOutputFull."qmail"' NET-SNMP-EXTEND-MIB::nsExtendOutputFull."qmail" = STRING: messages in queue: xxxx
調査のついでに作ってみた。cのgearmandで動いてます。PP版は確認してない gearmandのステータスは、telnetでアクセスして、statusコマンドを発行するととれる $ telnet localhost 4730 Trying 127.0.0.1... Connected to localhost.localdomain (127.0.0.1). Escape character is '^]'. status resize 3 3 78 . 数値は、キュー数、実行中のキュー、Workerの数となってる。キュー数には実行中のキューも含むらしい。 ソースはgist。
CloudForecastでリソース監視をする際の情報取得方法、グラフの設定を行うモジュールの作り方の紹介です。前のエントリーで紹介したgearman-starter.plのスコアボードによるステータス情報を取得してグラフにしてみます。 まず、gearman-starter.plのステータスを再確認します。telnetでみるとこんな感じです。 % telnet localhost 7005 Trying ::1... Trying 127.0.0.1... Connected to localhost. Escape character is '^]'. System: gearman_servers: 127.0.0.1:7004 class: MyWorker Uptime: 20 BusyWorkers: 0 IdleWorkers: 10 -- pid Status Counter
CloudForecastっていうリソース監視のツール／フレームワーク作ったにおいて、CloudForecastのインストールとCPUやメモリー、トラフィックなど基本的な監視ができるところまで記事にしましたが、今回はその監視項目のカスタマイズの方法を紹介します。 前回記事の最後では、監視対象となるサーバはlocalhostだけが登録されている状態です。server_list.yamlは以下のようになっています。 --- #HOME servers: - config: basic.yaml hosts: - 127.0.0.1 server1 my great server configで指定しているが監視項目の設定ファイルです。cloudforecast.yamlのhost_config_dirで指定されたディレクトリ内に保存されています。監視項目のカスタマイズにあたり、新規にhost_
CloudForecast のCPU使用率グラフで SoftIRQ(Software interrupts) がでるように修正した - blog.nomadscafe.jp
CPUの使用率のグラフからSoftIRQ(Software interrupts)が抜けてしまっていたので追加して、いくつか修正を加えた。 ↑午前2時ぐらいからちゃんとでるようになってる。通信が多いサーバではインパクトがある変更かもしれません。 Net-SNMP(UCD-SNMP-MIB)のCPU使用率に関する項目は UCD-SNMP-MIB::ssCpuRawUser.0 = Counter32: 428160510 UCD-SNMP-MIB::ssCpuRawNice.0 = Counter32: 381268 UCD-SNMP-MIB::ssCpuRawSystem.0 = Counter32: 95049839 UCD-SNMP-MIB::ssCpuRawIdle.0 = Counter32: 1753791119 UCD-SNMP-MIB::ssCpuRawWait.0 = Co
Rhebok, High Performance Rack Handler / Rubykaigi 2015
パフォーマンスの問題を調査するためにCloudForecastを使ってみることにしました。48ポートをざっくり眺めてみましょう。 CloudForecastの画面はこんな感じです。 ちょっと手狭ですね。Chromeのデベロッパーツールで即席でCSSをいじると、2列×12行に並べたりできますw CloudForecastのインストール リソースモニタリングツール「CloudForecast」入門 - As a Futurist... を参考にしました。 L2スイッチの設定 Catalyst 2960Sを使っています。かなり適当ですがSNMP v3の場合はこんな感じです。 snmp-server group hoge v3 auth read v1default snmp-server user cloudforecast hoge v3 auth sha ******** CloudFore
http://github.com/kazeburo/cloudforecast 丁度Cactiとかがんぐりあとかなんか入れないとなぁと検討しているタイミングでkazeburoさんが公開したので試してみました。 うちの場合はapacheはまったく使ってないので リソースグラフ用でapacheとかたちあげたくなかったのでPlackつかえるCloudForecastは最高です。 各サーバでsnmpdが動いていれば基本的なリソース取得には問題ないですね。 画面はこんなのです。 こんな感じのリソースグラフを見ることができます。 大規模なサーバ構成の時にはgearmanを使ってデータを集め回ることもできるし、小規模な場合の時はgearman使わずに済ませることもできます。 うちの場合、規模が大きくないので、gearman使わずにやってます。
CloudForecastをDaemontoolsの管理下におく - Wait at a Street corner
ようやくCloudForecastをDaemontoolsで管理する話です。 このへんからFedora15だとうまく行かないことが多くなってきたので、調べるよりもCentOSやScientific Linuxでやった方が良さそうなので、そちらに環境を移します。(本当はちゃんと調べたほうがいいんだろうけど) ここからは、KVM上のCentOS 6 (x86_64) になります。 daemontools のインストール ソースから入れてもそれほど苦にはならないが、パッケージ管理できていたほうが色々と都合が良いのでRPMからインストールします。 # wget http://www6.atomicorp.com/channels/atomic/centos/6/x86_64/RPMS/daemontools-0.76-1.el6.art.x86_64.rpm # rpm -ivh daemonto
Yokohama.pm x CasualPerlで紹介されていたCloudForecastを試しに入れてみました。 入れ方は、次のエントリで説明されています。 http://blog.nomadscafe.jp/2010/05/cloudforecast.html しかし、環境がおかしかったせいか、なかなか説明通りに進みませんでした。いくつか違う手順でインストールを進めたので、そのメモ。 net-snmpのインストール yum install net-snmp-perl でインストールできましたが、CloudForecast実行時にSNMP.pmがないということで失敗してしまいました。というか、net-snmpが入っていなかったのが原因っぽいですがorz http://net-snmp.sourceforge.net/download.html ソースからインストールしました。 net-s
CloudForecastでQudoのたまってるJobQueueの量をグラフ化するやつ - 猫型開発者
JobQueueがいくつたまってるか可視化したくて作りました。ソースはgist。 以下のエントリを参考にして作りました。 CloudForecastのリソース監視定義モジュールの作り方 - blog.nomadscafe.jp cloudforecastって何？ id:kazeburoさんが開発されているリソースモニタリングツールです。rrdtoolsの薄いラッパーとして動作していて、ソースはモダンなPerlで読みやすいわ拡張しやすいわですばらしいプロダクトです。rrdtoolsについてちょっと知ってれば使えると思います。 下記エントリが詳しいです。 YAPC::Asia 2010 Tokyo で CloudForecast について喋ってきた - blog.nomadscafe.jp 使いかた /path/to/cloudforecast/site_lib/CloudForecast/D
CloudForecastでqudoのworker状態を見る
Qudo::Parallel::Managerをつかえばscoreboradをみれるので、CloudForecastでグラフ化してみた。 package CloudForecast::Data::Qudo; use CloudForecast::Data -base; use IO::Socket::INET; =head1 NAME CloudForecast::Data::Qudo =head1 SYNOPSIS host_config) resources: - qudo[:port] eg) - qudo # 監視ポート9000 - qudo:9005 # ほかのportで起動 =cut rrds map { [$_,'GAUGE'] } qw/busy idle/; graphs 'status' => 'Qudo worker status';
ubuntuにリソース監視ツールのCloudForecastを入れてみた~YAPC::Asia2010の復習(前編)~ | hirobanex.net
YAPC::Asia2011を前にして、YAPC::Asia2010の復習として、リソース監視ツールCloudForecastをubuntu系のサーバー群で使ってみたレポートです。監視うんぬんというキホンから、snmpうんぬんというはまりどころ、CloudForecast::Data::*との格闘が、主な内容です。 前置きと目次と前提 前置き さてさて今日からYAPC::Asia2011ですね!今年もいろんなセッションに出たりしていろいろ情報収集したいところですが、そもそも去年の聞いたことちゃんと生かしているのか?というとわりとはっきり応えられないですよね!なので、前編と後編(後編ではPlackをつかった具体的なサーバー運用的なものの話)にわけて去年Welcome Perlっぽいテーマの学びとかの実践をレポートしたいと思います。で、前編の今回の目次は以下のようになります。 目次 監視うんぬ
Amazon S3 Pricing and Cost Optimization Guide | CloudForecast
In today’s cloud-driven world, organizations of all sizes rely heavily on cloud storage solutions to store, manage, and access ever-growing volumes of data. Among providers, Amazon Simple Storage Service (S3) emerged as a dominant player, offering a scalable and reliable storage infrastructure for businesses worldwide. However, as awesome as S3 is, it’s also extremely easy to overspend on. That’s
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
リソースモニタリングツール「CloudForecast」入門 - As a Futurist...
第3回 memcachedの監視とCloudForecastによるモニタリング | gihyo.jp
CloudForecastでMySQLのレプリケーション監視 - blog.nomadscafe.jp
CloudForecast で Redis の監視 - blog.nomadscafe.jp
cloudforecast に2つの機能追加をしました - blog.nomadscafe.jp
CloudForecast Updates - blog.nomadscafe.jp
CloudForecastでqmailのキュー数を監視する - blog.nomadscafe.jp
CloudForecastでgearmandのキュー数を監視する - blog.nomadscafe.jp
CloudForecastのリソース監視定義モジュールの作り方 - blog.nomadscafe.jp
CloudForecastの監視項目のカスタマイズ方法 - blog.nomadscafe.jp
Introduction to cloudforecast
CloudForecastでL2スイッチのトラフィックを監視する - GeekFactory
cloudforecastを試してみた - blog.nekokak.org
CloudForecastを入れてみた - メメメモモ