タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

etlに関するspinningplatesのブックマーク (1)

  • AuroraからBigQueryへデータ転送する際のシステム構成 | PR TIMES 開発者ブログ

    こんにちは、21新卒の岩下です。 今回は私が普段開発を担当しているPR TIMES STORYのDBデータをBigQueryへ転送したので、そちらについての話を書いていきたいと思います! はじめに PR TIMES STORY(以下、STORY) では、データベースにMySQL互換のAmazon Auroraを使用しています。 記事の目標はAuroraに蓄積されているデータをBigQueryへ転送して、データ分析に使用できる状態にすることです。その過程で、AWS Glueを使ったETL処理や、RDSのシステムスナップショットなど色々と学ぶことがありました。 やりたいこと 単純にいまDBに保存されているデータを全てBigQueryに転送するだけでは、プライバシーの観点から転送してはまずいデータなどが入り込んでしまいます。そのため、そういったカラムにはAWSのGlue といったETL処理がで

  • 1