タグ

ブックマーク / inokara.hateblo.jp (4)

  • Elasticsearch を試してみる - ようへいの日々精進XP

    きっかけ せっかくなので Elasticsearch を深堀してみた Elasticsearch とは Elasticsearch とは... Apache Lucene をベースに作られた RESTful な検索エンジン JSON で設定や検索が可能 スキーマレスなのでデータをジャンジャン放り込める(?) 使ってみる こちらのスライドを参考にして色々と触ってみた。 とりあえず Elasticsearch はこちらで既にインストール済み 起動するとサーバーの 9200 ポートで Listen する インデックス(データ登録) 以下のようにデータ登録が行われる。 データの取得 以下のようにデータ取得が行われる。 データの検索 user が kappa で登録されているレコードを検索すると以下のように 2 レコード登録されているのがわかる。 ということで kibana との連携については ki

    Elasticsearch を試してみる - ようへいの日々精進XP
    OKIIZO
    OKIIZO 2014/02/10
  • logstash を試す(2) - ようへいの日々精進XP

    概要 logstash で複数のホストからログを収集する手順を試してみる 複数ホストから収集する場合に redis を broker(ブローカー = 仲買人)として利用されている fluentd から Redis を扱う場合の参考にする あらためて構成を確認する それぞれの役割を整理してみる。 名前(上図) 役割 メモ shipper broker にログを送る 意味として荷主 broker shipper から送られたログを一時的に保管、選別し indexer に渡す 意味として荷仲介人、ここで Redis が使われる indexer broker から渡されたログを elasticsearch や storage に渡す 検索エンジンとしては Elasticesearch が使われる。また、Storage としては Plugin を見ると Amazon S3 等も利用出来る。 試す ※

    logstash を試す(2) - ようへいの日々精進XP
    OKIIZO
    OKIIZO 2013/11/27
  • logstash を試す - ようへいの日々精進XP

    きっかけ fluentd + Elasticsearch + Kibana を試した流れで logstash というソリューション があることを知ったので試す logstatsh について Rebuild: 19: Accents, Git Workflow, Logging (sekimura) でも触れられていたのでちょっちタイムリー こちら 愛らしいw公式キャラが何とも言えない Kibana のログ収集を担っている Java が必要 JRuby で実装されている 検索エンジンに Elasticsearch が利用されている Plugin 方式を採用している Web UI が動く(Kibana 3 を使っている) スタンドアローンで動作させることも可能 一箇所で集中管理するようなソリューションもあり、以下のようなアーキテクチャで実装されている(図は拝借) 試してみる チュートリアル的な

    logstash を試す - ようへいの日々精進XP
    OKIIZO
    OKIIZO 2013/11/27
  • 第二回 Elasticsearch 勉強会に参加した - ようへいの日々精進XP

    はじめに 第2回elasticsearch勉強会 fluentd + Elasticsearch + kibana を触り始めたので良いタイミングで勉強会を開催頂いたので参加させて頂いた 主催者の皆様、大変お疲れ様でした。有難う御座いました! 感じたこと スキーマレスな Elasticsearch はカジュアルに使えるけど、大規模になればなるほど運用が大変そう... Solr や lucene 等の Elasticsearch の背景にあるような技術についても勉強せにゃあかんな インデックス、クラスタ、シャーディング、ルーティング等の用語について改めて整理する必要がある ES_HEAP_SIZE は増やしておいて間違い無かった kibana カッコイイ サービス等のログ分析は kibana を使って手軽に簡単にクールにいける(気張ってイチから開発は大変) やっぱ、fluentd は凄いと思

    第二回 Elasticsearch 勉強会に参加した - ようへいの日々精進XP
    OKIIZO
    OKIIZO 2013/11/13
  • 1