タグ

s3に関するkimutanskのブックマーク (21)

  • Summary of the Amazon S3 Service Disruption in the Northern Virginia (US-EAST-1) Region

    We’d like to give you some additional information about the service disruption that occurred in the Northern Virginia (US-EAST-1) Region on the morning of February 28th, 2017. The Amazon Simple Storage Service (S3) team was debugging an issue causing the S3 billing system to progress more slowly than expected. At 9:37AM PST, an authorized S3 team member using an established playbook executed a com

    Summary of the Amazon S3 Service Disruption in the Northern Virginia (US-EAST-1) Region
    kimutansk
    kimutansk 2017/03/03
    インデックスと配置ですか。そりゃ確かに根幹ですね。ある程度細分化して一気に吹っ飛ばされないようにするのは巨大すぎるシステムには必要ですか・・
  • TechCrunch | Startup and Technology News

    Featuring Prime Minister of Greece & top Euro tech voices!

    TechCrunch | Startup and Technology News
    kimutansk
    kimutansk 2017/03/01
    「驚いたことに、AWSサービスの健康状態を示すダッシュボードのグラフィックス自体がS3のストレージを利用しており、したがってこの大混乱にもかかわらず「平常通り」の緑のランプが点灯しているという。」oh..
  • (レポート) STG406: S3を使った数百万ユーザー対応のスケーラブルで無制限なストレージサービスの構築 #reinvent | DevelopersIO

    こんにちは、虎塚です。 「STG406 - Using S3 to Build and Scale an Unlimited Storage Service for Millions of Consumers(日語タイトル: S3を使った数百万ユーザー対応のスケーラブルで無制限なストレージサービスの構築)」を聴講したので、レポートします。 これは、Amazon Cloud Driveの開発者の方が、容量無制限のストレージサービスをどのように作ったかを解説してくれるセッションです。発表はTarlochan CheemaさんとKevin Christenさんでした。 AWS re:Invent 2015 | (STG406) Using S3 to Build and Scale an Unlimited Storage Service - YouTube このセッションで扱うこと Amaz

    (レポート) STG406: S3を使った数百万ユーザー対応のスケーラブルで無制限なストレージサービスの構築 #reinvent | DevelopersIO
    kimutansk
    kimutansk 2015/10/23
    メタデータをDynamo、サイズによってマルチパート、同期非同期処理の並列、断続的なアップ、サムネイル用バケット、S3 pre signed URLにリクエストリダイレクト等盛り沢山
  • GitHub - serverless/serverless: ⚡ Serverless Framework – Effortlessly build apps that auto-scale, incur zero costs when idle, and require minimal maintenance using AWS Lambda and other managed cloud services.

    Here's a list of everything that's new in V.4, so far: Introducing Serverless MCP: Built for Cursor, Windsurf, and other AI-powered IDEs, it auto-detects cloud resources from your code, fetching logs, state, and config from AWS, enabling you to debug serverless apps directly in your IDE — no AWS console visit needed! Supports Serverless Framework, Cloudformation, and more. Introducing the Serverle

    GitHub - serverless/serverless: ⚡ Serverless Framework – Effortlessly build apps that auto-scale, incur zero costs when idle, and require minimal maintenance using AWS Lambda and other managed cloud services.
    kimutansk
    kimutansk 2015/09/22
    AWS上でサーバレスでモバイル/IoTアプリを構築するためのフレームワークと。現状S3とLambda、API GWで構築しているようですが範囲はもっと広がりますかね
  • AWS Blackbelt 2015シリーズ Amazon Storage Service (S3)

    2016/6/7 資料を2016年版にアップデートしました --------------- 2015年4月22日のAWS Blackbelt 2015シリーズ Amazon Storage Service (S3)の資料です。S3の基礎から、応用、注意点などを解説しています。 AWSに関する各種イベントスケジュールは以下のURLでご確認いただけます。 http://aws.amazon.com/jp/about-aws/events/

    AWS Blackbelt 2015シリーズ Amazon Storage Service (S3)
    kimutansk
    kimutansk 2015/08/16
    CloudFrontとの連携を実際に設定してみますか。後は先頭をHash化した状態で読出しを上手くソートして行う常套手段はどんなのがあるんでしょうね。
  • GitHub - Netflix/s3mper: s3mper - Consistent Listing for S3

    You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

    GitHub - Netflix/s3mper: s3mper - Consistent Listing for S3
    kimutansk
    kimutansk 2015/08/04
    S3上にあるファイルのメタデータをDynamo上に保持して結果整合性に対応するAspectコンポーネントと。Dynamoにはパスをキーにしたレコードとepochをキーにしたレコード、2種類を持つと。
  • (新機能)「Data Connector for Amazon S3」によるデータロード革命 - トレジャーデータ(Treasure Data)ブログ

    はじめに トレジャーデータでは,あらゆるデータソースにリーチするデータ収集ツールを用意していますが,新しい収集機能として「Data Connector」を順次リリースする予定です。 ↑ 従来の収集ツールに関しては過去記事をご覧下さい。 何が新しいのか? さて,今回紹介する「Data Connector for Amazon S3」はその名の通り,Amazon S3上のデータをトレジャーデータに設定のみで「バルクデータロード」する機能です。この機能は先日オープンソースとしてリリースされた Embulk をベースにしたものです。 Embulk については以下の過去記事をご参照ください。 従来の Bulk Import 機能は「Client to Server」型 従来のトレジャーデータの「バルクインポート」機能は,クライアント上の巨大なデータに対して,トレジャーデータへ安全かつ効率良く実行する

    (新機能)「Data Connector for Amazon S3」によるデータロード革命 - トレジャーデータ(Treasure Data)ブログ
    kimutansk
    kimutansk 2015/06/24
    TD内でEmbulkのWorkerを起動してインポート可能になりましたか。外部からアクセス可能なものは将来的に一通りこれでカバーされる感じですかね。
  • 【アップデート】S3の一貫性に変更があります | DevelopersIO

    ウィスキー、シガー、パイプをこよなく愛する大栗です。 日のアナウンス(要ログイン)で、S3の一貫性に一部変更があることが発表されました。変更があったのは"US Standard"という聞きなれないリージョンとなります。 リージョン=US Standard? S3に詳しい方はご存知かと思いますが、S3のリージョンにバージニア(us-east-1)が存在しません。替わりにUS Standardというリージョンがあります。歴史的経緯もあるのだと思いますが、s3.amazonaws.com(バージニア北部または太平洋岸北西部)とs3-external-1.amazonaws.com(バージニア北部のみ)の2箇所のエンドポイントが使用できます。 何が変わったの? US Standardは一貫性が他のリージョンと異なっていましたが、他のリージョンと同じ整合性モデルが使用できる様になりました。変更点は

    【アップデート】S3の一貫性に変更があります | DevelopersIO
    kimutansk
    kimutansk 2015/06/21
    整合性にこんな差分があったんですか。なんでまた今までは整合性の差なんて地味に影響大きい差分があったんでしょうね。
  • AWS Solutions Architect ブログ

    こんにちは。ソリューションアーキテクトの下佐粉(しもさこ)です。 先日(4/22)のAWS Black Belt Tech Webinar ではAmazon S3 (Simple Storage Service)の解説を行いました。AWSが出来た時からあるサービスで、利用いただいている方も多かったためか、多くの方にご参加いただき、最後のQ&Aも活発でした。資料もS3の基礎から、応用、注意点まで網羅的にカバーされたもので、S3は使い慣れているという方でも一度目を通していただく価値があると思います。時間の関係で、Q&Aの一部にしか答えられなかったので、資料に加えて、このエントリの後半に答えきれなかった分も含めたQ&Aを記載しておりますので、ぜひ参考にしてください。 次回のBlack Belt Webinarは、5月13日(水)18時です。ゴールデンウィークをはさむために少し期間が空いてしまいま

    kimutansk
    kimutansk 2015/04/27
    キー名先頭部分ということはバケット直下というわけで、ということはバケットで用途を切り分けるようにする、が一番適した感じですか。
  • AWS News Blog

    Announcing General Availability of Step-by-Step Guides for Amazon Connect Agent Workspace At AWS re:Invent 2022 we announced the availability of step-by-step guides for Amazon Connect agent workspace in preview. My colleagues who collaborated to write the announcement post wrote about some of the challenges that contact centers face with training new agents to get up to speed with their agent desk

    kimutansk
    kimutansk 2015/03/23
    プレフィックスが何文字、何パターンあれば適切にパーティション分割されるか、走りたいところではありますねぇ。全力で先頭をハッシュ化は何かと使いにくいですので。
  • S3をDB利用 ショッピングセンター向けポイントシステム概要

    2015年2月7日 大阪で開催されたJAWS-UG KANSAI 特別編でしゃべったときのスライドです。

    S3をDB利用 ショッピングセンター向けポイントシステム概要
    kimutansk
    kimutansk 2015/02/19
    追記専用と割り切るならば、S3は確かにスループットも高いですしあらかじめ何かを用意する必要もないと、いいこと尽くめですね。どう割り切るか、ですか。
  • AWS Black Belt Techシリーズ Amazon Simple Storage Service (Amazon S3)

    AWS Black Belt Tech Webinar 2014 (旧マイスターシリーズ) Amazon Simple Storage Service (Amazon S3)

    AWS Black Belt Techシリーズ Amazon Simple Storage Service (Amazon S3)
    kimutansk
    kimutansk 2015/02/05
    とりあえず、先頭ハッシュ値つけるのでその場合はディレクトリ=バケットという扱いでアクセスする形になりますか。
  • [セッションレポート]Maximizing Amazon S3 Performance #reinvent | DevelopersIO

    re:Inventのセッション「Maximizing Amazon S3 Performance」を聞いてきたので、そのセッションレポートを書きました。 内容 リージョンの選択 どのリージョンでS3を作成するか、の検討基準 ユーザになるべく近いリージョン その他のAWSリソースと近いリージョン 保存されるデータがsensitiveなものの場合は法律上の規則も確認しておく必要がある オブジェクトの命名 オブジェクトへのアクセスが100TPS(Transaction per Second)を超えるかどうか、がS3のアーキテクチャ上重要になる S3のキーの先頭部分が同じだと、S3上で同一のパーティション上に保存されるアーキテクチャとなる。つまり、大量のファイルのキーの先頭部分が同じ場合は同じパーティションへのアクセスが集中するためパフォーマンスが落ちる。(例: 2014-01-01-photo.

    [セッションレポート]Maximizing Amazon S3 Performance #reinvent | DevelopersIO
    kimutansk
    kimutansk 2014/11/16
    S3、オブジェクトの配置先はファイル名をベースに配分され、先頭文字に依存して配分される、と。ハッシュというわけではないんですね。
  • Amazon S3における「フォルダ」という幻想をぶち壊し、その実体を明らかにする | DevelopersIO

    よく訓練されたアップル信者、都元です。Amazon S3について細かい説明は不要かと思いますが、要するにファイルストレージです。HTTPベースでファイルをアップロードでき、そしてダウンロードできるサービスですね。 古くから、データはシリアライズされた形式でファイルという単位に格納し、管理されてきました。ローカルマシン内でファイルを管理する仕組みがファイルシステムで、その多くにはフォルダという階層構造を扱う仕組みが備わっています。 Amazon S3も、Management Consoleによってフォルダを作成し、その中にさらにフォルダを作成したり、ファイルを格納できたりします。しかし。 Amazon S3には実はフォルダという概念は無い のです。Amazon S3の基礎技術は、単純なKVS(Key-Value型データストア)でしかありません。例えば下記のようなフォルダ(と我々が認識している

    Amazon S3における「フォルダ」という幻想をぶち壊し、その実体を明らかにする | DevelopersIO
    kimutansk
    kimutansk 2014/09/19
    CommonPrefixesは指定したdelimiterで算出され、そこにリストアップされたものの配下以外がContentsに表示されるわけですかね。こういうのは面白いですね。
  • 20131213 jawsugソフトウェアベンダーがAWSを活用して
急にSaaSをはじめた話

    データ分析基盤、どう作る?システム設計のポイント、教えます - Developers.IO 2019 (20191101)

    20131213 jawsugソフトウェアベンダーがAWSを活用して
急にSaaSをはじめた話
    kimutansk
    kimutansk 2013/12/15
    使い方によってはメール1通で2円と・・・ このあたりは実際にやってみないとわからない事情ではありますねぇ
  • S3のアクセスコントロールが多すぎて訳が解らないので整理してみる | DevelopersIO

    おまけ 今回調査に使ったシェルスクリプト載せておきます。 権限毎にバケット何個も作って、オブジェクトも作って、アクセスしてみて、終わったら削除してという感じのものです。 #!/bin/bash UNIQ=$(date +'%Y%m%d%I%M%S') alias aws='aws --region ap-northeast-1' BUCKET_PREFIX=akeri-acl-test-$UNIQ- TARGET_PRINCIPAL="arn:aws:iam::123456789012:user/s3acltest" TARGET_MAIL="example@example.com" # create Bucket Policy Document UPLOADFILE=akeridayo.txt IAM_USERNAME=s3acltest echo "akeridayo" > $UPLO

    S3のアクセスコントロールが多すぎて訳が解らないので整理してみる | DevelopersIO
    kimutansk
    kimutansk 2013/12/14
    結果はDeny最優先という非常に真っ当な結果でしたが、こういうのはやってみないとわかりませんよね。
  • Amazon S3でWordPressを動かす

    WordPress特別セミナー】StaticPress × S3 × Vagrant 勉強会 の講演資料 http://atnd.org/events/43607 Twitterまとめ http://togetter.com/li/576298 ■共演の方々の資料 WordPres…

    Amazon S3でWordPressを動かす
    kimutansk
    kimutansk 2013/10/13
    静的なページに落とし込んで、S3上に移行してしまえばいいと。この考え方はこれで面白いですねぇ
  • S3とFluentdを用いた効率的なログ管理 | SmartNews開発者ブログ

    ゴクロの大平です。 私にとって一番大事で替えの効かないミュージシャンはさだまさしさんですが、私にとってクラウドコンピューティングのサービスの中で一番大事で替えが効かないサービスはS3です。 多種多様なAPIを用いて柔軟にファイルの操作が出来る事や、”99.999999999%”と謳われている高い耐障害性、S3にあるデータをElastic MapReduceやRedshiftなどを用いて手軽にデータ解析を行える基盤が提供されていることなど、あまりに便利すぎてS3の代替となるサービスを探しだすのが難しい状態です。 もちろん多くのAWSユーザーが同じようにS3の便利さを享受していると思いますし、インターネット上でも多くのブログ等でその魅力が語られています。その中で記事は既に存在する記事と似たような内容を書いてしまうかもしれませんが、弊社なりのS3の使い方についてご紹介したいと思います。 なお

    kimutansk
    kimutansk 2013/09/02
    適度にコードがあってわかりやすいですねぇ。他の独自プラグインも楽しみです。
  • ChefでS3からファイルを取得する | DevelopersIO

    こんにちは、植木和樹です。ここ最近ChefとCloudFormation漬けの毎日をすごしています。 さてChefを使ってサーバ環境を構築・保守するにあたって様々なファイルをあつかっていることと思いますが、ファイルの置き場所としてS3が使えたらいろいろ便利ですよね。cookbookと一緒のリポジトリで管理するのがふさわしくない設定ファイルや、サイズが大きくてcookbookに入れたくないオレオレRPMファイルなんかをS3に置いておいてchefレシピから扱えたら・・・今日はそんな課題に取り組んでみたいと思います。 s3_fileリソース 検索サイトで"chef s3"で検索するとs3_fileという、chefからS3を扱うためのライブラリを配布されている方がいました。 https://gist.github.com/peplin/470321 さらにこのページのコメント欄を読むと、AWS S

    kimutansk
    kimutansk 2013/06/26
    Chef用のアーカイブをS3に配置するわけですか。これは便利そうですね。
  • Glacierで思い出よ永遠に。 - サーバーワークスエンジニアブログ

    みなさんこんにちは、ストレージはハードで持ちたくない羽柴です。 早速ですがみなさん個人でのストレージってどうしてますか? 私は一部NASはありますが、基的にはS3を利用しています。 ただ最近、S*NY製のビデオカメラを買ってしまったことで徐々に動画ファイルが多くなり、持っているHDDレコーダーもSO*Y製のためレコーダーへの転送は超簡単なのですが、HDDを信用していない私としては動画ファイルもS3にあげようかと思っていたところで、動画ファイルは容量が結構あるためS3の料金もさすがに不安になってくるなぁと思っていました。 そうだ Glacier に入れておけばいいか。 Glacierは Amazon Web Services社 が提供する低価格ストレージサービスです。高い耐久性と低コストが特徴であり、取り出しに4時間程度かかることから長期におけるデータのアーカイブ・バックアップに適していま

    Glacierで思い出よ永遠に。 - サーバーワークスエンジニアブログ
    kimutansk
    kimutansk 2013/02/15
    この方法だとS3さえ使ったことがあればGlacierを使えるわけなんですよね。