タグ

aws-s3-syncに関するnabinnoのブックマーク (5)

  • AWSアカウント間のS3 syncを実行してみました。 | DevelopersIO

    ベルリンの半瀬です。 はじめに 題名の通りですが、アカウントを跨いだS3転送についてEc2からコマンドラインでの実行確認を行いましたので、そのメモを残します。 以下の過去記事とAWSドキュメントを元にしました。 How do I transfer ownership of Amazon S3 objects to a different AWS account? | AWS クロスアカウントで S3 sync するための権限設定 | Developers.IO やってみます 以下のような形で実行します。EC2は送り先で起動。 簡単です。と言いつつもポリシーの記述間違いでハマったことは内緒です。 送信元(Source)の情報 AWS Account ID : 111111111111 S3 Bucket : test-s3-sync-src (Frankfurt) 送信先(Destinati

    AWSアカウント間のS3 syncを実行してみました。 | DevelopersIO
  • sync — AWS CLI 1.32.108 Command Reference

    Description¶ Syncs directories and S3 prefixes. Recursively copies new and updated files from the source directory to the destination. Only creates folders in the destination if they contain one or more files. sync <LocalPath> <S3Uri> or <S3Uri> <LocalPath> or <S3Uri> <S3Uri> [--dryrun] [--quiet] [--include <value>] [--exclude <value>] [--acl <value>] [--follow-symlinks | --no-follow-symlinks] [--

  • Lambda上でAWSCLIを動かしてS3 Syncする - サーバーワークスエンジニアブログ

    こんにちは、技術一課の加藤です。 AWS CLIのS3 Sync、便利ですよね。 コピー元とコピー先の付き合わせやバージョンの比較など、Sync処理において面倒だな、と思うことを全部端折ってくれるS3 Syncは、まさにバケット間のデータ移動の最適解といえるでしょう。 しかしこれを定期実行したい、となるとやや面倒です。実はAWS SDKにはS3 Syncと同様の機能がないため、Lambdaでいい感じに実装しようと思うと考慮すべきことが色々出てきてしまいます。 S3バケットのSyncがしたい! でもAWS SDKで実装するのも面倒くさい! そうしてやってみたのが「Lambda上でAWS CLIを動かす」というアクロバティック実装です。 実装方法 極力AWS CLIをLambda内で使うために必要な手順に絞って解説を行うため、 S3バケット同士のSync 2つのS3バケットおよびLambda

    Lambda上でAWSCLIを動かしてS3 Syncする - サーバーワークスエンジニアブログ
  • Amazon S3 バケット間でオブジェクトをコピーする

    Amazon Simple Storage Service (Amazon S3) バケットにあるすべてのオブジェクトを、別のバケットにコピーまたは移動しようと考えています。S3 バケット間でオブジェクトを移行する必要があります。 簡単な説明 2 つの S3 バケット間でオブジェクトをコピーするには、以下の手順に従います。 1.    新しい S3 バケットを作成します。 2.    AWS コマンドラインインターフェイス (AWS CLI) をインストールし、設定します。 3.    S3 バケット間でオブジェクトをコピーします。 注: aws s3 ls コマンドまたは aws s3 sync コマンドを大きなバケット (オブジェクトが 1,000 万個以上) で使用すると負荷がかかり過ぎて、タイムアウトになるおそれがあります。バケットが大きいためにタイムアウトになった場合は、Amaz

    Amazon S3 バケット間でオブジェクトをコピーする
  • S3 sync で s3からファイルを同期させる時の注意点 | DevelopersIO

    はじめに s3 sync で作業をしていた際に、同期されるはずのファイルが同期されなかったので調査してみました。 事象 s3にアップロードしたファイルをローカルに同期させる際に同期されないファイルがあった。 s3にアップロードしたdocument.txtをローカルに同期する s3にアップロードしたファイル $ aws s3 ls s3://test.takahashi.yusuke/ 2015-06-26 18:56:05 4847 document.txt 現在のローカルのファイル $ ll ~/docs/ total 16 drwxr-xr-x 3 takahashiyusuke staff 102 6 25 13:17 . drwxr-xr-x+ 60 takahashiyusuke staff 2040 6 25 13:16 .. -rw-r--r-- 1 takahashiyus

    S3 sync で s3からファイルを同期させる時の注意点 | DevelopersIO
  • 1