タグ

ブックマーク / repeatedly.github.io (3)

  • Fluentdとログ収集のパターン - Go ahead!

    「ログを集めて保存する」と言うのは簡単だけど,ログ収集の構成にはいくつか方法があり,勉強会などでちょくちょく聞かれるので,いくつかのパターンについて書く. 「俺はもうバリバリログ収集やってるぜ!」という人は多分すでに知っていることが書かれているので,タブを閉じて良い. ここではログコレクタにFluentdを想定しているが,他のログ収集プロダクトにも適用出来るはず. ただ,Fluentdはタグベースのルーティングを持ち,単体でもキューのように動作させることが可能で,既存のものより複雑な問題を解決しようとしているので,少し工夫が必要かもしれない. Fluentdそのものについては公式ドキュメントや,Fluentdとはどのようなソフトウェアなのかを参考に. クライアントから直接保存する いきなりFluentdを使わないパターン.JavaScript SDKを提供している解析サービスやモバイル端末

    yass
    yass 2014/07/31
    " ネットワーク周りのややこしい問題をログコレクタに任せられ,Fluentdであればプラグインで容易にストリームを操作できるのがメリット."
  • MPP on Hadoop, Redshift, BigQuery - Go ahead!

    Twitterで「早く今流行のMPPの大まかな使い方の違い書けよ!」というプレッシャーが半端ないのでてきとうに書きます.この記事は俺の経験と勉強会などでユーザから聞いた話をもとに書いているので,すべてが俺の経験ではありません(特にBigQuery).各社のSAの人とかに聞けば,もっと良いアプローチとか詳細を教えてくれるかもしれません. オンプレミスの商用MPPは使ったことないのでノーコメントです. MPP on HadoopでPrestoがメインなのは今一番使っているからで,Impalaなど他のMPP on Hadoop的なものも似たような感じかなと思っています. もちろん実装の違いなどがあるので,その辺は適宜自分で補間してください. 前提 アプリケーションを開発していて,そのための解析基盤を一から作る. 簡単なまとめ データを貯める所が作れるのであれば,そこに直接クエリを投げられるPre

  • Librato Metrics introduction - Go ahead!

    Librato Metricsをうちではモニタリングに使ってるんですが,日で全くと言って良いほど記事を見ないので,紹介記事を書いてみる. 何が出来る? おおまかに分けて以下のようなことが出来る. メトリックスを作れる メトリックスに対してアラートを設定出来る ダッシュボードでメトリックスの一覧が見れる JavaScript SDKを使って自分のサイトに埋め込むことが出来る APIが提供されていて,いくつかの言語のクライアントがある 以下それぞれ簡単な説明. メトリックス LibratoにはMetricというのがあり,これが最小の単位.Metricに監視したいメトリックスの値を入れていき,他のMetricと混ぜたりすることでモニタリングを行います. 上の例のように,一つのMetricに複数の軸の値を入れることが出来ます.これはソースと呼ばれていて,保存する時にsourceを指定すれば良いで

    yass
    yass 2013/09/13
    " Librato Metricsをうちではモニタリングに使ってるんですが,日本で全くと言って良いほど記事を見ないので,紹介記事を書いてみる."
  • 1