タグ

EBSとebsに関するyassのブックマーク (49)

  • Consistent High IO Performance with Amazon Elastic Block Store

    yass
    yass 2014/04/15
  • Benchmark: RDS with Provisioned IOPS | Celingest Blog – A Claranet Group Company

    After the latest price drops and performance improvement announces it’s time to test Amazon’s RDS performance with Provisioned IOPS Storage using EC2 EBS-Optimized instances. Why this benchmark? The goal is to measure the crude performance of different Provisioned IOPS RDS instances together with different types of EC2 EBS Optimized instances. Main metrics considered for this test were Throughput

  • AWSのEBS Provisioned IOPSからEBSについて妄想する - プログラマでありたい

    以前、EBSの内部構造を調べていて「結構知らないAmazon EBSの細かい話。主にEBSのネットワークの構造について」という記事を書きました。そこでEBSの性能はネットワークの帯域で制約される旨を書きました。すると、@namikawaさんに次のような指摘を頂きました。 このsh2さんのブログにも書いてあるけど、QEMUなりcgroupのレイヤでの制限に近いやり方なのかなぁと思っています。ただの想像ではありますが。d.hatena.ne.jp/sh2/20121217 確かにネットワークが性能の制約にはなりうるけど、ネットワークだけではProvisioned IOPSのようなIOPS単位での性能の制御は出来ないなぁと疑問に思っていました。気になったので、EBS絡みの性能測定や考察・Tipsを読んでみましたが、まだまだ解らない所だらけです。それでも、今回得た情報を元にProvisioned

    AWSのEBS Provisioned IOPSからEBSについて妄想する - プログラマでありたい
    yass
    yass 2014/03/29
    " Standard EBSは、100IOPSを目標に設定されている。Standard EBSは通常はバーストされて、それ以上の性能が出る。"
  • Jason Irwin dot See, eh?

    yass
    yass 2014/03/29
  • Parse

    yass
    yass 2014/03/29
    " Before PIOPS (y-axis from 0.0 to 2.5 seconds): / After PIOPS (y-axis from 0.0 to 0.6 seconds): "
  • [AWSマイスターシリーズ] Instance Store & Elastic Block Store

    1. re:G ene rate AWSマイスターシリーズ Instance  Store(Ephemeral  Disk) &  Elastic  Block  Store 2014.1.29 アマゾン  データサービス  ジャパン株式会社 プリンシパル  ソリューションアーキテクト 荒⽊木  靖宏 ソリューションアーキテクト 平⼭山  毅 © 2012 Amazon.com, Inc. and its affiliates. All rights reserved. May not be copied, modified or distributed in whole or in part without the express consent of Amazon.com, Inc. 2. Agenda ! ! ! ! ストレージサービス概要 Instance  Store  (Eph

    [AWSマイスターシリーズ] Instance Store & Elastic Block Store
  • Amazon EBS ボリュームのモニタリング - Amazon EBS

    ボリュームステータスはボリュームステータスチェックに基づいており、ボリューム状態を反映していません。従って、ボリュームステータスではボリュームが error 状態 (例えば、I/O を受け付けできない) であることは判りません。ボリュームの状態についての詳細は、ボリューム状態を参照してください。 あるボリュームの整合性について心配しているわけではなく、そのボリュームに障害が発生した際にそのボリュームをすぐに利用できるようにしたい場合は、デフォルトの動作を上書きして、I/O を自動的に有効にするようにボリュームを設定することができます。Auto-Enable IO 属性 (API の autoEnableIO) を有効にしている場合は、ボリューム状態のチェックは引き続きパスされます。また、ボリュームに潜在的な障害があると判断されたが、そのボリュームの I/O が自動的に有効になったことを伝え

  • AWS News Blog

    Announcing Amazon Managed Service for Apache Flink Renamed from Amazon Kinesis Data Analytics Today we are announcing the rename of Amazon Kinesis Data Analytics to Amazon Managed Service for Apache Flink, a fully managed and serverless service for you to build and run real-time streaming applications using Apache Flink. We continue to deliver the same experience in your Flink applications without

    yass
    yass 2014/01/25
    " このオプションはスタンダードボリューム、プロビジョンド IOPSボリュームのどちらとでも、必要に応じて一緒にご利用いただけます。"
  • EBS Standard Volumeの性能特性 - SH2の日記

    最近@namikawaさんと@con_mameさんがEBSの性能測定をされていて、少し気になったので追試をしました。 Amazon EBS の性能ベンチマーク その1 (Standard編) - 元RX-7乗りの適当な日々 Amazon EBS の性能ベンチマーク その2 (Standard-Vol増量編) - 元RX-7乗りの適当な日々 Amazon EBS の性能ベンチマーク その3 (Provisioned IOPS編) - 元RX-7乗りの適当な日々 4,000IOPS EBSのベンチをとってみた - まめ畑 今一度Provisoed IOPS EBSのベンチをとってみた - まめ畑 測定環境です。 ap-northeast-1c m1.small (Spot Instance) Amazon Linux AMI 2013.03.1 EBS Standard Volume 16GB

    EBS Standard Volumeの性能特性 - SH2の日記
    yass
    yass 2014/01/25
    " 数秒から数十秒経過したところで、性能がストンと落ちています。この挙動はドキュメントに記載されているとおりのものなのですが、なかなかダイナミックな制御が行われているようです。"
  • Maximizing EC2 and Elastic Block Store Disk Performance (STG302) | AWS re:Invent 2013

    This document discusses optimizing performance for EC2 instances and EBS volumes. It provides guidance on provisioning IOPS for different types of storage workloads and database software. The key recommendations are to use EBS-optimized instances with Provisioned IOPS (PIOPS) volumes for random I/O workloads like databases, size volumes appropriately based on the needed IOPS and throughput, and ar

    Maximizing EC2 and Elastic Block Store Disk Performance (STG302) | AWS re:Invent 2013
    yass
    yass 2014/01/24
    [re:invent]
  • 結構知らないAmazon EBSの細かい話。主にEBSのネットワークの構造について - プログラマでありたい

    先日、EBS(Elastic Block Store)のとある状況下での挙動について正確なところが知りたくて、改めて調べていました。その中で、AWSマイスターシリーズ ReloadedのEBS版を見つけたのですが、これが良い資料でした。今までEBSのネットワーク部分についてどういう構造になっているのか、正確に把握しませんでした。資料を読むことにより構造が解り、ボトルネックが発生した時にどう対処すればよいのか、より掴みやすくなりました。簡単にまとめてみたいと思います。 EBSの全体像 まずはEBSの基構造です。当たり前といえば当たり前ですが、EBSはEC2ではなくその下のレイヤーのハイパーバイザにアタッチされます。アタッチ後にOSから認識させるという形になります。また接続の方式としてはネットワーク型ですが、利用者はネットワークを全く意識せずとも使えるようになっています。(SecurityG

    結構知らないAmazon EBSの細かい話。主にEBSのネットワークの構造について - プログラマでありたい
    yass
    yass 2013/11/21
    "今回の資料を読んで、初めて腑に落ちました。要は、ネットワークをEBS用と通常用に分けますよという話です。"
  • 直近の6カ月で2倍以上に成長したモバイルBaaSのParse。レイテンシの問題をAWSのストレージ機能で解決。AWS re:Invent 2013

    直近の6カ月で2倍以上に成長したモバイルBaaSのParse。レイテンシの問題をAWSのストレージ機能で解決。AWS re:Invent 2013 モバイルBaaSを提供するParseは、4月にFacebookに買収されたてからの半年で、2倍以上のアプリケーションから利用されるようになりました。 その急速な成長を高いスケーラビリティで支えることができたのは、Amazonクラウドのフレキシビリティだったと、Amazon Web Servicesがラスベガスで開催したイベント「AWS re:Invent 2013」の基調講演で解説しました。 特に、急速に人気が高まるモバイルアプリケーションなどが登場するとバックエンドにかかる負荷が急速に高まり、サービスのレイテンシが跳ね上がる現象には手の打ちようがなかったのですが、これをストレージ性能を設定できるEBS Provisioned IOPSによって

    直近の6カ月で2倍以上に成長したモバイルBaaSのParse。レイテンシの問題をAWSのストレージ機能で解決。AWS re:Invent 2013
    yass
    yass 2013/11/18
    " バックエンドを支えているのがMongoDBだ。私たちはこれをAmazon EBSのPIOPS(Provisioned IOPS。ストレージのIOPS性能を設定できる機能)上で走らせている。ユニークなユースケースではないだろうか。1秒当たり2TBのスループット "
  • AWS re:Invent2013参加レポート #19 EC2 ブロックストレージ(EBS/インスタンスストア)ベストプラクティス | DevelopersIO

    ども、大瀧です。 今回のre:Invent参加で個人的にアツかったテーマのひとつが、EC2のブロックストレージ周りのセッションで濃いものが聞けたことです。3日目と4日目に行われた以下のセッションから、現時点でのブロックストレージのベストプラクティスが見えてきそうだったので、セッションから得られたことを自分なりにまとめてみました。 STG402 - Advanced EBS Snapshot Management [11/14 17:30 Murano 3303] STG401 - NFS and CIFS Options for AWS [11/15 10:15 Venetian B] ちなみに、プレゼンターはどちらもAWSでパートナーSAを務めるCraig Carlです。軽快な語り口で、Q&Aもスピーディーに答えていました。そのせいで、議論がヒートアップすると全然聞き取れなかったんですが

    AWS re:Invent2013参加レポート #19 EC2 ブロックストレージ(EBS/インスタンスストア)ベストプラクティス | DevelopersIO
    yass
    yass 2013/11/17
    " EBSボリュームは、ユーザーからは見えませんがハードウェアレベルの冗長性は確保されているとのことなので、RAID構成にするのであれば、RAIO0で問題ありません / 同期方法としてDRBDをasynchronous replicationで動作させる例 "
  • AWS re:Invent2013参加レポート #13 AWS Storage and Database Architecture Best Practices | DevelopersIO

    AWS re:Invent2013参加レポート #13 AWS Storage and Database Architecture Best Practices AWSのエンタープライズソリューションアーキテクトである、Siva Raghupathyさんによる「AWS Storage and Database Architecture Best Practices」に参加してきました。 各ストレージ、データベースの向き不向きとベストプラクティスを網羅的に紹介する内容でした。 AWSはデータベースだけでも沢山のサービスがあるので、どのサービスを利用するのが一番いいのか迷うことがよくあります。 以下は発表内容の直訳ですが、それぞれのサービスの特性を押さえておくことで、より確かな選定をするための一助になればと思います。 英語が分からなくて、訳せていない部分があります。 自信が無いところは元の英語

    AWS re:Invent2013参加レポート #13 AWS Storage and Database Architecture Best Practices | DevelopersIO
    yass
    yass 2013/11/16
    "各ストレージ、データベースの向き不向きとベストプラクティスを網羅的に紹介する内容 / 発表内容の直訳ですが、それぞれのサービスの特性を押さえておくことで、より確かな選定をするための一助になればと思います"
  • What are some tips for tuning EC2/EBS IO performance?

    Answer (1 of 6): First, a little background about EBS. EBS provides a data solution which stores persistent data and extraordinarily fast random read latency. Write latency leaves something to be desired, but that tends to be a second thought at initial implementation time. However, EBS should be...

    What are some tips for tuning EC2/EBS IO performance?
    yass
    yass 2013/11/09
    " to avoid multi tenancy only allocate EBS volumes at the maximum size (1 TB). / All of the research I've done has shown the only way to smooth out latency spikes is to use a 4x RAID-0 over 1 TB EBS volumes. "
  • 10 Things You Should Know About AWS - High Scalability -

    « Paper: Tempest: Scalable Time-Critical Web Services Platform | Main | ESPN's Architecture at Scale - Operating at 100,000 Duh Nuh Nuhs Per Second » Authored by Chris Fregly:  Former Netflix Streaming Platform Engineer, AWS Certified Solution Architect and Purveyor of fluxcapacitor.com. Ahead of the upcoming 2nd annual re:Invent conference, inspired by Simone Brunozzi’s recent presentation at an

    10 Things You Should Know About AWS - High Scalability -
    yass
    yass 2013/11/08
    " Use ZFS with EBS / Stripe your RDS disks for better performance "
  • innodbのチューニングとEC2のIO - 工場長のブログ

    ここでは、EC2の上でinnodbをチューニングして使うという観点でTIPSをまとめてみた。 RDS便利だから使おうぜってのは今回の話のスコープには含みません。 あと、innodbについて、割りとちゃんと調べてみたのは初めてだったりするので、間違ってる点など見つけたらぜひご指摘くださいませ。 innodb関連 バッファプール ワーキングセットを乗せておくオンメモリのバッファ領域。読み書き共にこの領域を経由して実施される。 参照時はバッファプール上でデータを探して、なければテーブルスペースから取得する。(そのデータはバッファプール上に格納される) 書き込み時はリクエストを受け付けてワーキングセットを更新し、ログの書き込みへ移行する。 設定はinnodb_buffer_pool_size 監視はSHOW ENGINE INNODB STATUSか、mysqladmin extended-sta

    innodbのチューニングとEC2のIO - 工場長のブログ
    yass
    yass 2013/11/07
    " RDS使うならディスク容量は大きめがベター。"
  • Amazon EBS: When does Amazon AWS eliminate its single point of failure? › CloudUser

    yass
    yass 2013/10/10
    " I may be wrong. However, if you look at the past failures the evidence indicates that Amazon EBS is the main source of error in the Amazon Cloud. "
  • JAWS北陸第5回勉強会でLTしてきた クラウド破産しないためのEBS入門 - うえきのブログ

    JAWS北陸第5回勉強会でLTしてきました。 使った資料はこちらです。 クラウド破産しないためのEBS入門 JAWS-UG北陸第5回勉強会 クラウド破産しないためのEBS入門 from Kazuki Ueki 当日Ustreamで配信もしていただけたのでアーカイブでみることができます。相羽さんありがとうございます。編は10分ちょっとの内容になっています(01:10頃から始まります)。当日機材トラブルでご迷惑をお掛けしました松さん、中道さん、急遽LTの順番変わってもらった川下さん、ありがとうございました。 JAWS北陸第5回勉強会#6 クラウド破産しないためのEBS入門 Video streaming by Ustream (スライドの切り替えと声のタイミングが合っていないのはUstreamで画面が切り替わったのを確認してからSkypeで話しているせいです。中盤以降はスライドの内容を話し

    JAWS北陸第5回勉強会でLTしてきた クラウド破産しないためのEBS入門 - うえきのブログ
    yass
    yass 2013/10/09
  • EBSについてのfrsyukiさんのつぶやき

    Sadayuki Furuhashi @frsyuki EBSは管理ノードとデータノードで構成される、ハイブリッドなP2Pシステムであるらしい。データは複数のデータノードにレプリケーションされ、その内の一つが "プライマリ" レプリカになっている。データの変更はプライマリレプリカに対してのみ許可される。 Sadayuki Furuhashi @frsyuki プライマリレプリカは、管理ノードとデータノードにクライアント(=EC2インスタンス)を加えた、3者がネゴシエーションすることで決定される。ポイントは、管理ノードはリージョンに1セット存在する点か。AZに1セット存在するのではない。 Sadayuki Furuhashi @frsyuki 複数のAZにまたがった管理ノードを置くことで、データを複数AZにまたがってコピーしつつ、一貫性を維持することを(シンプルに)可能にしている。この設計は

    EBSについてのfrsyukiさんのつぶやき
    yass
    yass 2013/10/08
    "EBSは管理ノードとデータノードで構成される、ハイブリッドなP2Pシステムであるらしい。データは複数のデータノードにレプリケーションされ、その内の一つが "プライマリ" レプリカ / データの変更はプライマリレプリカ"