最近話題のDockerやGoogle Cloud Platformを用いて大規模データのための解析基盤を作ります。今回はデータソースとしてTwitter Streaming APIを利用しますが、アクセスログなどに応用することももちろん可能です。コードは一行も書きません。解析基盤をつくためにマシンを用意する必要はもちろんありません。 BigQueryについては、 Googleの虎の子「BigQuery」をFluentdユーザーが使わない理由がなくなった理由 #gcpja が参考になります。 利用するプロダクト/サービス Google Cloud Platform Google Compute Engine BigQuery Docker fluentd fluent-plugin-twitter fluent-plugin-bigquery Twitter Streamping API 想
![fluentdとDockerとBigQueryで1時間でビッグデータ解析基盤を作る - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/03179fd2d76876d444c7fe5cb5ccd97042fd9c65/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9Zmx1ZW50ZCVFMyU4MSVBOERvY2tlciVFMyU4MSVBOEJpZ1F1ZXJ5JUUzJTgxJUE3MSVFNiU5OSU4MiVFOSU5NiU5MyVFMyU4MSVBNyVFMyU4MyU5MyVFMyU4MyU4MyVFMyU4MiVCMCVFMyU4MyU4NyVFMyU4MyVCQyVFMyU4MiVCRiVFOCVBNyVBMyVFNiU5RSU5MCVFNSU5RiVCQSVFNyU5QiVBNCVFMyU4MiU5MiVFNCVCRCU5QyVFMyU4MiU4QiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1jbGlwPWVsbGlwc2lzJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9MTNjMDYzNjA3OTM1MWU0Nzg4MmE1ZGRiNTk2ZjZiNzA%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwdGFja2VfanAmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTA1MjdhMWM2M2E1YWE1Yzg1NmYyMjkwMjg0N2IzNmJj%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D41be924d0cca576ef673c48b0263b3a6)