はじめに 世間的には「fluentdで集計 ≒ Norikra!!!!!」という流れで、それに対して一石を投じる気のかけらも私には無いわけですが、Norikraを用いるまでもない軽微な処理を実行する場合fluentdのプラグイン単体で処理を完結したいケースもあり、そしてNorikraが若干重厚に映るケースもあります(JRuby!! Esper!!!) ということで、集計が行えるようなfluentd pluginについてまとめてみます。チョイスは僕の独断と偏見です。 ユースケース fluentdの基本的なユースケースは、inputとして入力をしたデータをoutput先にrelayする、というものです。そして集計処理は、多くの場合output先のシステム内、もしくはシステムに蓄積されたデータを用いて別のシステムを用いて行う事が多いと思います。 (ex. HDFSに保存したログデータをHiveを
![fluentd pluginで集計処理をする(Norikra以外で) - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/0a32ef7253954bb4e16a1406f794e1d857f17dbe/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Fadvent-calendar-ogp-background-7940cd1c8db80a7ec40711d90f43539e.jpg%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9Zmx1ZW50ZCUyMHBsdWdpbiVFMyU4MSVBNyVFOSU5QiU4NiVFOCVBOCU4OCVFNSU4NyVBNiVFNyU5MCU4NiVFMyU4MiU5MiVFMyU4MSU5OSVFMyU4MiU4QiUyOE5vcmlrcmElRTQlQkIlQTUlRTUlQTQlOTYlRTMlODElQTclMjkmdHh0LWFsaWduPWxlZnQlMkN0b3AmdHh0LWNvbG9yPSUyMzNBM0MzQyZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZzPTE5MzNhZDgxYTI0ZWY4ZGZhYWRmY2FkNzA0NmQxZTE4%26mark-x%3D120%26mark-y%3D96%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9OTcyJnR4dD0lNDBtb2Fpa2lkcyZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9Yzc1N2EzMDNjNTAxNGQyNGZjOTg1Y2U2ZWFlNWViODA%26blend-x%3D120%26blend-y%3D500%26blend-mode%3Dnormal%26s%3D3906112092fe3d5e7ea79b910d9fc652)