タグ

s3に関するbayashi_netのブックマーク (9)

  • AWS LambdaでS3に配置されたファイルをgzipする - Qiita

    大量のファイルをgzipしたものをS3に配置したいニーズがあって、非力な手元のマシンで一旦gzipしてから転送するよりはLambdaにやらせたらいいのではないか?ということでやってみました。 以下のようなLambda functionを設置 大きなファイル(数十MB以上)を扱う場合はtimeoutをデフォルトの3秒から伸ばす。メモリも128MBでは足りないことがあるので512MBなど S3の読み書き権限があるIAM Roleを設定 S3のイベント通知でLambda functionをkick aws s3 sync で大量のファイルを同期してもアップロードが終わったファイルから順番に処理が走るので、同期が終わった数秒後にはgzipされたファイルが生成されている状態になります。 var aws = require('aws-sdk'); var zlib = require('zlib');

    AWS LambdaでS3に配置されたファイルをgzipする - Qiita
  • AWS News Blog

    AWS Week in Review – AWS Documentation Updates, Amazon EventBridge is Faster, and More – May 22, 2023 Here are your AWS updates from the previous 7 days. Last week I was in Turin, Italy for CloudConf, a conference I’ve had the pleasure to participate in for the last 10 years. AWS Hero Anahit Pogosova was also there sharing a few serverless tips in front of a full house. Here’s a picture I […] Amaz

  • Amazon S3(拡張性と耐久性を兼ね揃えたクラウドストレージ)|AWS

    Amazon Simple Storage Service (Amazon S3) は、業界随一のスケーラビリティ、データ可用性、セキュリティ、パフォーマンスを提供するオブジェクトストレージサービスです。あらゆる規模や業種のお客様が、データレイク、クラウドネイティブアプリケーション、モバイルアプリケーションなど、事実上あらゆるユースケースで、あらゆる量のデータを保存、保護することができます。コストパフォーマンスに優れたストレージクラスと使いやすい管理機能により、コストの最適化、データの整理、特定のビジネス、組織、コンプライアンスの要件を満たすきめ細かなアクセスコントロールの設定を行うことができます。 この図は、データを Amazon S3 に移動し、Amazon S3 に保存されたデータを管理し、他のサービスでデータを分析する方法を示しています。左から右に 3 つのセクションが表示されます

    Amazon S3(拡張性と耐久性を兼ね揃えたクラウドストレージ)|AWS
  • Amazon Elastic MapReduceを使ってみた - moratorium

    Amazon Elastic MapReduceを使ってみた 2009-04-03 (Fri) 3:06 Amazon EC2 連日のEC2ネタです。日、AmazonからElastic MapReduceというサービスがリリースされました。大規模データ処理技術が一気に民間の手に下りてくる、まさに革命的なサービスだと思います。 Amazon Elastic MapReduce Amazon ElasticMapReduce 紹介ビデオ With Hadoop, Amazon Adds A Web-Scale Data Processing Engine To Its Cloud Computer by techcrunch.com Elastic MapReduceは、Googleの基盤技術の一つであるMapReduceを時間単位課金で実行できるサービスです。MapReduceについては以

  • Amazon S3 でできること : 管理人@Yoski

    Amazon S3 でできることをざーーーーっとメモ。 ■基 バケットを作って、その中にディレクトリ/ファイルをいくらでも放り込める バケットには誰でも見れる/許可したAmazonユーザーのみ見れる、などのアクセス権を設定可能 容量と転送量とアクセス回数で課金。容量は安く、転送量は中くらいでアクセス回数はぼーっとしてると結構かかりそう。twitter はいくら払っているのだろう。 Content-Type も指定してアップできるので、S3 のデータはブラウザから簡単に参照できる。 バケット名.s3.amazonaws.com というドメインになるが、DNS の CNAME を設定することで独自ドメインにあるように見せることも可能。 上記の方法はバケット名をドメイン名にすること。つまり image.sidefeed.com というドメインで S3 を使いたいなら バケット名を image.

  • 「Amazon EC2」と「Amazon S3」を実際に使ってみたので、まずはアカウント作成まで - GIGAZINE

    以前にGiazineで紹介した実際にアマゾンが使っているのと同じ仮想サーバを無料で試せる「Right Scale」がなんだかとてもいい感じだったので、今回は直接Amazon Web Servicesのコンピュート・クラウド「Amazon EC2」とインターネット・ストレージ「Amazon S3」を組み合わせて使ってみました。 何がいい感じだったかというと実際にサーバを1台稼働させたい時、外部の専用サーバの場合はサーバの契約やセットアップ、自分でサーバを用意する場合はハードの調達などと意外と実稼働までには時間がかかってしまうのですが、Amazon Web ServicesのEC2とS3を利用する場合「素早く複数台の設定済みサーバを稼働させることができる」という大きなメリットがあること。比較的短い期間に複数台のサーバが必要なときには特にお勧めかも。しかし、実際にAmazon Web Servi

    「Amazon EC2」と「Amazon S3」を実際に使ってみたので、まずはアカウント作成まで - GIGAZINE
  • Amazon S3 をバックアップストレージとして利用する

    Amazon Simple Storage Service(A3)をバックアップストレージとして使うときのメモです。 ここでは自分のみがアクセスする目的と考え、ファイルを公開して配布する目的では必要となるであろうログの取得についてなどは省きます。 利点 単価がとにかく安い(1か月あたりの料金:転送量が$0.20/GB、データ領域が$0.15/GB) Amazonインフラなので信頼性がある 欠点 APIでの提供なので何らかのツールが必要となる そんなに速くない ちょこちょこ使うストレージとしてみると使いづらい ファイル操作は基GET/PUT/DELETEしか用意されていない 移動・名前変更を行おうとするとGET→名前を変えてPUT→DELETEとなるのでムダがある(時間的にも金銭的にも) バケット(bucket) ストレージの領域の事。フォルダよりドライブに近い概念です。 自由に作成できま

  • クラウド型ストレージ「Amazon S3」は安いか?

    Amazon S3は安いか高いかという議論を、この2日間で立て続けに3個所で耳(目)にした。 1人はネットサービスベンチャーのCTOで、クラウドへの移行を検討しているものの、Amazon S3やEC2の実際の価格や使い勝手がよく分からないという話だった。コスト的に見合うなら、もうサーバ運用に煩わされたくないと漏らしていた。 もう1つは、ベンチャーキャピタルとして知られるYコンビネーターの掲示板で見かけた「Does Amazon S3 really save money?」で始まる議論。1GB当たり1カ月で0.15ドルと聞くと安いようにも思えるが、1TBの月額は150ドル、2年にすると3600ドル(1ドル92円として約33万円)にもなる。しかも転送量に応じた課金もあるため、実際にはこれ以上になる。今や1TBのドライブ単価は1万円を割っていて、2年で3600ドルとは比較にもならない。「クラウド

    クラウド型ストレージ「Amazon S3」は安いか?
  • AmazonS3上のファイルを国内でも高速配信可能なAmazon CloudFrontリリース : Media Technology Labs (MTL) : メディアテクノロジーラボ ブログ

    Ringとは、リクルートグループ会社従業員を対象にした新規事業提案制度です。 『ゼクシィ』『R25』『スタディサプリ』など数多くの事業を生み出してきた新規事業制度は、 1982年に「RING」としてスタートし、1990年「New RING」と改定、そして2018年「Ring」にリニューアルしました。 リクルートグループの従業員は誰でも自由に参加することができ、 テーマはリクルートの既存領域に限らず、ありとあらゆる領域が対象です。 リクルートにとって、Ringとは「新しい価値の創造」というグループ経営理念を体現する場であり、 従業員が自分の意思で新規事業を提案・実現できる機会です。 Ringフロー その後の事業開発手法 Ringを通過した案件は、事業化を検討する権利を得て、事業開発を行います。 さまざまな事業開発の手法がありますが、例えば既存領域での事業開発の場合は、 担当事業会社内で予算や

  • 1