[B! elasticsearch] delegateのブックマーク

はじめてのElasticsearchクラスタ

The First Elasticsearch Cluster 2018-07-25 JJUG ナイトセミナー「Elasticsearch特集」Read less

delegate 2018/07/29

elasticSearch

リンク

サイボウズのログ基盤 2018年版 - Cybozu Inside Out | サイボウズエンジニアのブログ

こんにちは。アプリケーション基盤チームの @ueokande です。今日は、サイボウズの新しくなったログ基盤についてお話しします。サイボウズのログ基盤の進化リプレイス前のログ基盤サイボウズのログ基盤はサービスの成長に合わせて、常に進化し続けてます。そんななか2017年の夏に大きなリプレイス作業がありました。サイボウズのサービスを支えるログ基盤 from Shin'ya Ueoka 以前のログ基盤は、ログを収集するホストがあり、各ホストからログを収集してました。しかしログの転送システムが単一障害点であったり、スケーラビリティに欠けるのでサービスの成長に追いつかず、性能的にも限界に達してました。また以前のログ基盤では、ログの解析がしにくく、ログはあるけどビジネスに役立てにくい状況でした。そのため今後のサービスの成長や、より安定したログ基盤を運用できるように、ゼロから刷新するこ

delegate 2018/03/19

リンク

Fluentd / Embulk / Elasticsearch / Digdag を学ぶのに最高な「データ分析基盤構築入門」を読んだ - kakakakakku blog

出版されてから少し時間がたってしまったけど，「データ分析基盤入門」を読み終えた．ページ数が多く，持ち運ぶようなサイズではないので，家でちょこちょこ読み進める感じになってしまって，想定以上に時間がかかってしまった．データ分析基盤構築入門[Fluentd、Elasticsearch、Kibanaによるログ収集と可視化] 作者: 鈴木健太,吉田健太郎,大谷純,道井俊介出版社/メーカー: 技術評論社発売日: 2017/09/21メディア: 単行本（ソフトカバー）この商品を含むブログを見るはじめに目次にも書いてある通り，「データ分析基盤」というテーマで Fluentd / Elasticsearch / Kibana の解説が詳細にまとまっている．さらに付録には Embulk と Digdag の解説もあり，このあたりの技術スタックに興味がある人にとって最高な一冊なのではないかなと思う．また，

delegate 2017/11/21

リンク

Laravelで作る分析・分散処理アプリケーションその1 - ytake blog

先日のPHPカンファレンスやPHPカンファレンス関西、buildersconでお話しした内容を元にして、 Laravel(PHP)を使って分析処理の簡単な実装や、ミドルウェアを組み合わせた分散処理の実装を紹介します。本ブログのサンプルアプリケーションは下記になりますので、コードやミドルウェアなどを参照ください。 github.com Laravelとkafka Connect、Elasticsearchの組み合わせ Apache Kafkaを使ったスケーラブルなアプリケーションの入門編です。レコード量が多い複雑なコンテンツのデータや検索要件、Like検索など、 RDBMSの不得意な分野などを対応することも多いかと思いますが、 RDBMSとElasticsearchを併用しKafkaで複雑さを吸収して、アプリケーションをスケールさせるようにしてみましょう。データベースのテーブル設

delegate 2017/10/23

リンク

Elasticsearch 6 を利用する前に把握しておいた方がよさそうなこと | DevelopersIO

ども、藤本です。現地時間 8/31 に Elastic Stack の次期メジャーバージョンの 6.0.0 Beta 2 がリリースされました。 Elastic Stack 6.0.0-beta2リリース過去の Elasticsearch はメジャーバージョンバージョンアップ時に機能が変更となったり、非推奨になったり、廃止になったり、大きな変化を行ってきました。今回の 5系 → 6系に際しても大きな変化があるはずです。ということで Elasticsearch 6系の Breaking Changes に目を通してみました。今回は私が気になった項目をご紹介します。利用方法によって影響する項目は異なるので 6系をご利用される方は一通り目を通すことを推奨します。 Breaking Changes Breaking Changes バージョン 2系以前に作成されたインデックスは読み取れない E

delegate 2017/09/27

elasticSearch

リンク

物理サーバを選定する際のポイント – Eureka Engineering – Medium

Eureka EngineeringLearn about Eureka’s engineering efforts, product developments and more.

delegate 2016/12/07

elasticSearch

リンク

第１回 Elastisearch 入門インデックスを設計する際に知っておくべき事 | DevelopersIO

今回、第1回目の Elasticsearch 入門という事で、今回は「インデックスを設計する際に知っておくべき事」というテーマにしてみました。ここでのインデックスの設計とは RDB のデータベースとかテーブル、ビューの設計に当たるところです。 Elasticsearch は RDB など他のデータベスに比べ、その設計方法も結構独特です。（と言うか同じ事を実現するにしても色々な方法が用意されていて、さらにアプリケーション要件〜システムアーキテクチャ、運用面など広い範囲が関わってくる）RDB との比較も交え解説していきます。 Index で分けるか？ Type で分けるか？例えば、商品情報を保存するインデックスの設計を考えてみましょう。いわゆるRDBの設計で言うところのテーブル設計ですね。おそらくRDBではアプリケーション要件のみが、その設計の中心になるはずです。例えば、商品名や説明、価格情

delegate 2016/03/11

elasticSearch

リンク

Elasticsearchを使うときの注意点を社内で発表しました。 - Taste of Tech Topics

こんにちは、fujiiです。最近、社内でもElasticsearchを使う機会も増えてきてました。インストールも簡単ですし、ちょっと設定するだけでログの解析も手軽にできるので、便利だと思って使い始めるのですが、・必要以上に負荷のかかる設定になっている。・システムダウンしたときの復旧を考慮していなかった。・初期構築などで大量にデータを入れようとしたら、一部データが入っていなかった。と、後から反省することも多くあります。（私も最初は知らないことが多く、反省点ばかりでした）そのため、Elasticsearchを初めて使うときの注意点をまとめ、社内で講習会を開きました。以下に公開しました。実際に案件で利用しようと思った時にパフォーマンスなどで迷うこともありますので、そんな時の一つの参考になればと思います。 Elasticsearchを使うときの注意点公開用スライド f

delegate 2016/01/29

elasticSearch

リンク

LINE DEVELOPER DAY 2016 開催のお知らせ « LINE Engineers' Blog

LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog saegusa2017-04-16Yoshihiro was a network engineer at LINE, responsible for all levels of LINE's infrastructure. Since being named Infra Platform Department manager, he is finding ways to apply LINE's techno logy and business goals to the platform. こんにちは。LINEでネットワークやデータセンターを担当している三枝です。2017年1月にJANOG39で登壇する機会を頂きましたので、今回

delegate 2016/01/19

リンク

ElasticsearchとPython使えば生活圏推定を簡単にできる話 - Qiita

概要なんか書いてみようということで、Elasticsearchに行動履歴の位置情報を登録すれば、いい感じに利用できる上に、いい感じに可視化もできるという話をします。前提知識今回Elasticsearchを利用するので、簡単に紹介。 ElasticsearchはApache Solrとよく比較される全文検索エンジンの一つです。スキーマフリーですべての入出力がREST＆JSONになっています。またJavaで実装されています。詳しくはElasticsearchの紹介と特徴インストールはyumでもbrewでも簡単に出来ます。利用したい環境に合わせて調べてみてください。ちなみにElasticsearchのGUIプラグインのelasticsearch-headが便利なので合わせて入れておくと良いです。 Elasticsearchの設定 Elasticsearchを起動できたら、利用するin

delegate 2015/12/23

elasticSearch

リンク

fluentd+elasticsearch+kibanaの環境を構築してみた - ssossanの日記

背景 webサービスを運用してるんですが、ログをもっと有効活用しようぜ！って話になり、とりあえず手元でfluentd+elasticsearch+kibanaを使って環境を作ってみました。アプリが入ったサーバには極力負荷をかけたくないので、パース作業は別のサーバで行いました。そのへんでいい感じにまとまってる情報が見つからなかったので、備忘録を兼ねてメモ。サーバ構成アプリケーションサーバ(今回はmac) -> fluentdを入れてログの送信だけやらせる。 VM(ubuntu14.04) -> fluentd, elasticsearch, kibanaを入れてログのパース〜蓄積〜表示まで。実運用では変わるだろうけどまあ練習ということで。ハマった点・困った点 1. アプリケーションサーバからログをそのまま送信するのってどうやるんや 2. 正規表現苦手なんだけど 3. parserプラ

delegate 2015/11/10

リンク

Fluentd、ElasticSearch、Kibana4によるログ分析環境の構築 – hrendoh's tech memo

現在、ログを収集し分析するシステムを構築しようとした場合に、オープンソースの組み合わせですぐに始められる構成としてはじめに思いつくのは Fluentd + ElasticSearch + Kibana の構成です。 Web上の記事や書籍も充実していますし、日本にもユーザーが多そうなので割と安心して利用できる環境でもあると思われます。この記事では、Fluendによりログ収集しElasticSearchに保存し、それをKibana 4で分析する環境の構築手順について調べた内容をまとめてみました。今回試したのは以下のように、Apacheのアクセスログをtailして、Fluentdで収集しElasticSearchに保存、Kibanaでログの検索、分析を行うシンプルなシステム構成です Apacheのログを収集するサーバーおよびElasticSearch、Kibanaをインストールするサーバーと

delegate 2015/09/28

リンク

PythonとElasticsearchで形態素解析 | 今日のひとこと

Elasticsearchから取り出してsklearnでテキストデータをゴニョゴニョするときにPython側ではIgoを使って形態素解析とかしていたけど、Elasticsearchでやっている形態素解析と一致しないのもなんだし、Igoを直読みするよりパフォーマンスは落ちると思うけど、辞書管理等々考えるとElasticsearchのanalyze APIを使って形態素解析しちゃった方がシンプルかなっと思い、まとめておく。まず、PythonでElasticsearchのAnalyze APIが呼べることを以下で確認する。ここでは、Python 2.7を利用している。elasticsearch-pyもインストール済みな想定で、Elasticsearchも起動しておく必要がある。 $ python Python 2.7.6 (default, Mar 22 2014, 22:59:56) [GC

delegate 2014/12/22

リンク

「関連する○○」機能を手軽に実現できる。そう、Elasticsearch ならね。 - クックパッド開発者ブログ

セコン (id:secondlife, @hotchpotch) です。ウェブサービスにはよく「このエントリーに関連するブログ記事」や「このレシピに関連するレシピ」という機能が実現されてますよね。さて、この機能はどのように実現すれば良いでしょうか。例えば tf-idf で単語の類似度を求め…といった実装が必要になり、いささか面倒です。しかしながら Elasticsearch や Solr *1を使うと手軽に実現できます。例えば、クックパッドニュースの記事では Solr を使い「この記事を読んだ人におすすめ」の機能に、最近クックパッドにジョインしたインドネシアの会社の DapurMasak では Elasticsearch を使い「Resep serupa(関連レシピ)」の機能で利用しています。クックパッドニュースでのこの記事を読んだ人におすすめ DapurMasak での関連レシピ使

delegate 2014/09/24

リンク

ElasticSearchの運用とか (3) - なんかかきたい

監視周りの情報とかをペタペタと書きました。ステータス監視 Munin https://github.com/claygregory/munin-elasticsearch 色々あるけど、これが有力そう。 Plugin/HQ https://github.com/royrusso/elasticsearch-HQ headプラグインと機能が被っている気がしなくもない。便利な管理ツール。 Plugin/head http://mobz.github.io/elasticsearch-head/ 色々できるノードステータス監視ツール。便利 Plugin/bigdesk https://github.com/lukas-vlcek/bigdesk HQやheadと似たようなElasticSearchクラスタの状態監視ツール。 HQやheadと比べてモニタリングの機能のみに注力しているイメージ。