こんにちは。古橋です。今日はいつものはてなブログから趣向を変えて、QiitaでTDアドベントカレンダー14日目の投稿です。 Hiveのクエリ結果をRDBに書き出したい MapReduceはメモリに収まりきらないデータをJOINしたり集計したりできる信頼性の高いアーキテクチャですが、どうしても1発のクエリを実行するのに時間がかかるので、人間がいじりながら使う可視化ツールに直接繋ぎ込むには向いていません。 そこで Prestoを使って集計する 方法もありますが、やはりMapReduceの方が向いているケースもあります。例えば、 Webサイトに一度は来てくれたのに、その後1週間アクセスのない人が、最後に見ていったページはどこだろう? 過去にアイテムAを買った人が良く買っている別のアイテムは何だろう? (バスケット分析のクエリ例) といった、巨大テーブル同士のJOINや自己結合が必要なケースは、や
![大規模データを確実にMySQL/Redshiftに入れる—Treasure Dataのクエリ結果書き出し機能の実装 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/1878bfc4423b0e4ce7f885f079c61bfbc01fff8c/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Fadvent-calendar-ogp-background-f625e957b80c4bd8dd47b724be996090.jpg%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JUU1JUE0JUE3JUU4JUE2JThGJUU2JUE4JUExJUUzJTgzJTg3JUUzJTgzJUJDJUUzJTgyJUJGJUUzJTgyJTkyJUU3JUEyJUJBJUU1JUFFJTlGJUUzJTgxJUFCTXlTUUwlMkZSZWRzaGlmdCVFMyU4MSVBQiVFNSU4NSVBNSVFMyU4MiU4QyVFMyU4MiU4QiVFMiU4MCU5NFRyZWFzdXJlJTIwRGF0YSVFMyU4MSVBRSVFMyU4MiVBRiVFMyU4MiVBOCVFMyU4MyVBQSVFNyVCNSU5MCVFNiU5RSU5QyVFNiU5QiVCOCVFMyU4MSU4RCVFNSU4NyVCQSVFMyU4MSU5NyVFNiVBOSU5RiVFOCU4MyVCRCVFMyU4MSVBRSVFNSVBRSU5RiVFOCVBMyU4NSZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1jbGlwPWVsbGlwc2lzJnR4dC1hbGlnbj1sZWZ0JTJDbWlkZGxlJnM9MTBiMGZlODY0MjdlMzZmN2RlZDliYmJhMDEwZjU2NmM%26mark-x%3D142%26mark-y%3D151%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwZnJzeXVraSZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9YTg2MjAzMjEwNmE3ODRiNDkxYTJhYTRhMDBiYzdiNTY%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D49c248b3ec4e92277965e06e985e9f01)