Kubernetes上に分析環境を構築する機会があったのでどのように構築したかを紹介します。同じような構成でKubernetes上で構築するのは3回目になったので構築方法も洗練されてきました。構成は以下のようになっています。 MySQL(RDS): サービスのデータベース。ここのテーブルからBigQueryにEmbulkでデータをエクスポートします。 PostgreSQL(RDS): Digdagのデータベース。今回新たにつくりました。 Digdag: データベースのエクスポートなどを実行するタスクスケジューラ。失敗したときにリトライもできます。 Embulk: プラグインを使ってデータベースをMySQLからBigQueryにエクスポートします。Digdagと同じDockerコンテナでDigdagのタスクから実行されます。 BigQuery: すべてのエクスポートされたデータをここに集約さ
![EKS(Kubernetes)上にDigdag・Embulk・Redashで分析環境を構築する | wapa5pow blog](https://cdn-ak-scissors.b.st-hatena.com/image/square/9f4a2ba2fc4acbbbc5278beca181001d0f123db1/height=288;version=1;width=512/https%3A%2F%2Fwapa5pow.com%2Fogp%2F2019-04-19--build-analytics-environment-on-eks.png)