Embulkを使ってRDSのslow query logをElasticsearchに投入する。 - QiitaAmazon RDSではデフォルトの設定で、slow query logはmysql.slow_logという テーブルに保存されています。Embulkを使ってmysql.slow_logに保存された slow query logをElasticsearchに投入してみます。 必要なプラグインのインストール embulk mkbundleを利用して、必要なプラグインをGemfileで管理 できるようにします。
Embulkを使って大量の謎ログを読み込ませる手順 - Qiita
2015.3.16: @hiroysatoさんから教えていただいたnewコマンドをベースにした方法へ大幅に書き換え。 背景 セキュリティ関係のなんとかみたいな仕事をしていると、ある時急に数TBの謎のログを手渡されて「これ明日までになんか解析してみて」みたいなムチャぶりが飛んでくることがあります。このようなデータ分析では分析手法云々という前に、正規化してDBに取り込んだりする作業に相当の労力が必要になります。こういう事案に対していまどきなデータ転送ソフトウエアであるembulkを使うとだいぶ分析にとりかかれるまでの作業が楽になるのではないかと思ったので、一連の手順をまとめてみました。 前提条件 大きいサイズ（数GB〜数TB）のログデータを取り込みたい ログデータは1行1レコード形式のテキストで複数ファイルに分割されている ログの出力形式などは謎。既存のプラグインなど存在しない 出力形式の推定
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
