タグ

2017年6月3日のブックマーク (1件)

  • オンプレ環境からS3へのファイル転送方式についてこれまで試したパターンまとめ | DevelopersIO

    西澤です。AWS上にシステムを移行する上で、毎度のようにご相談を受けるのが、S3へのファイル転送をどうするか?という問題です。ビッグデータの元となる大量のファイル、RDBのダンプファイル、その他のバックアップファイル等を含め、安価で堅牢なS3にまずはデータを格納し、そこから自由に利用したいというユーザの希望を実現する為に、まずは何よりもS3にファイルを持っていかなければなりません。 今回は、過去のブログも遡りつつ、これまで試してみた各種転送方式をご紹介し、それぞれのユースケースを整理しておこうと思います。また、この記事は書きっぱなしにするのではなく、今後必要に応じてメンテナンスもすることで、再利用できるような記事に育てていきたいなと思っています(執筆時点での意気込みであり、何かを保証するものではありません)。 前提 Amazon Kinesis Streamsを利用するようなリアルタイム処

    オンプレ環境からS3へのファイル転送方式についてこれまで試したパターンまとめ | DevelopersIO