オブザーバビリティも、セキュリティも、検索ソリューションも、Elasticsearchプラットフォームならすべて実現できます。
オブザーバビリティも、セキュリティも、検索ソリューションも、Elasticsearchプラットフォームならすべて実現できます。
この記事は全文検索エンジン「Elasticsearch」の入門チュートリアルです。 Elasticsearch とは Elasticsearch は Elastic 社が開発しているオープンソースの全文検索エンジンです。 大量のドキュメントから目的の単語を含むドキュメントを高速に抽出することができます。 Elasticsearch では RESTful インターフェースを使って操作しますが、「Elasticsearch SQL」を使って SQL 文でクエリを記述することもできます。 Oracle や MySQL などのリレーショナルデータベースに慣れている人にとっては、最初はとっつきにくいと感じるかもしれません。 しかし、Elasticsearch の API はとてもシンプルなので、心配しなくても大丈夫です。 Elastic Stack とは Elastic Stack は Elasti
solid ITは2018年1月2日(ドイツ時間)、「PostgreSQL is the DBMS of the Year 2017」において、データベースマネージメントシステム・オブ・ザ・イヤー2017年(DBMS of the Year 2017)にPostgreSQLが輝いたと伝えた。これに、Elasticsearch、MariaDBが続いている。DBMS of the Year 2017は「DB-Engines Ranking」で直近1年間で最もスコアを増やしたデータベースに贈られる賞とされている。 PostgreSQLはスコアを55.81(17%)増やして、2017年に最も大きな成長を見せた。2017年にはMongoDBを抜いて4位のポジションまで上昇している。solid ITではPostgreSQLの躍進理由の1つとして、PostgreSQL 10のリリースがユーザーを刺激した
出版されてから少し時間がたってしまったけど,「データ分析基盤入門」を読み終えた.ページ数が多く,持ち運ぶようなサイズではないので,家でちょこちょこ読み進める感じになってしまって,想定以上に時間がかかってしまった. データ分析基盤構築入門[Fluentd、Elasticsearch、Kibanaによるログ収集と可視化] 作者: 鈴木健太,吉田健太郎,大谷純,道井俊介出版社/メーカー: 技術評論社発売日: 2017/09/21メディア: 単行本(ソフトカバー)この商品を含むブログを見る はじめに 目次にも書いてある通り,「データ分析基盤」というテーマで Fluentd / Elasticsearch / Kibana の解説が詳細にまとまっている.さらに付録には Embulk と Digdag の解説もあり,このあたりの技術スタックに興味がある人にとって最高な一冊なのではないかなと思う.また,
先週に引き続きBitcoin関連で週末コーディング。 blue1st.hateblo.jp 取引アルゴリズムを考える前に、とりあえずは可視化(と仮説の検証)が必要だろうということで。 ポート管理やら各種パスやら環境変数やらに煩わされたくない怠惰系のアプリケーションエンジニアとしては、 この手のツールがDockerで用意されてると簡単に試せて本当に助かる。 以下Docker Compose導入後という前提で。 blue1st.hateblo.jp 簡単なグラフ化ならGrowthForecast 表題どおり、何かしらの時間で変化する数値をサクッとグラフ化するだけの要件なら、GrowthForecastを立ち上げてスクリプトなり何なりから値を投げ込むのが楽だろう。 GrowthForecast - Lightning fast Graphing / Visualization 導入 適当にディレ
Similar to Jupyterで手順再現!Elasticsearch構築・運用を実行可能ドキュメントで機械化してみた
docker-compose 環境の ElasticSearch + Kibana を 5.3.0 から 5.5.2 にしたときつまづいたところ しばらくぶりに ElasticSearch を触ることになったため、以前 Docker コンテナで作ってあった環境を見直してみました。 すると ElasticSearch + Kibana の新バージョンとして 5.5.2 が出ていたので、 せっかくなので更新するかとバージョンを上げてみたところ素直に動作しませんでした。 結論から言えば ElasticSearch + Kibana に起因するものではなく、 docker-compose.yml のコンテナ間ネットワークの設定を間違えたことが原因です。 結論としては以下のような感じです。 5.3.0 の頃にあった links によるコンテナ間接続は不要 networks 指定により Elastic
Logstashで取り込むログは多種多様で、色々なテンプレートも用意されています。 ただ、アプリケーションログはそれぞれのアプリで独自のフォーマットで記述されていることが多いと思います。 今回、ちょっと複雑なログの形式として 項目が":"区切りで且つKey=Value形式の項目があるログをパース出来たので、方法を残しておきます。 ログはこんな形式です。 2017-02-26_11-46-00.123:hostap1:bwegaa3JkLKJIHGKGGIkjahawlwk2134:10000123:OUT:OAUT45 :OperateId=1Update&0&ProcessId=2kdajgkagkdjgjgkgjgkb&ProcessPass=214resdkljg6ykdhjglkgshg&SalesDate=20170226&TenantId=0001&TransactionDat
Elasticsearch、Kibanaの環境を構築したら、 次はログを流し込んで可視化したくなるのが人情ですよね。 ということで出番なのがLogstash。 以下のURLからダウンロードできます。 www.elastic.co 通常の使い方はLogstashを各種サーバにインストールし、 リアルタイムでログを転送し可視化するのですが、 まずは手始めとして、手元にあるログをElasticsearchに転送してみようと思います。 動作させている環境は以下の通りです。 OS:Windows 10 Pro Java: Oracle JDK 8u121 Logstash:5.2.1 Elasticsarch,Kibanaは以下の記事で作成したものを使っています。 mamelog.hatenablog.jp Logstashとは 公式ページには以下の記述があります。 https://www.elas
はじめに 藤本です。 Elasticsearchにデータ投入する方法を調べる機会がありましたので、今回はいくつかのファイルをデータソースにElasticsearchへデータ投入する方法をご紹介します。 概要 Elasticsearchはリアルタイムデータ分析、ログ解析、全文検索など様々なユースケースで活用することができます。例えば、Excelでデータ蓄積して、グラフ化・集計を行っているのであれば、Elasticsearchにデータ投入して、Kibanaで可視化することができます。ログをSyslogで集約して、grepやawkを駆使してパフォーマンス解析しているのであれば、logstashやfluentdなどでメッセージ解析し、Elasticsearchに集約、Kibanaで可視化することができます。ブログサイトの記事をDBに投入していてアプリケーションによって検索処理ロジックを実装している
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く