AWS Black Belt Online Seminar 2017 AWS体験ハンズオン~Amazon S3 バックアップ~Amazon Web Services Japan
More precisely, I crawled 250,113,669 pages for just under 580 dollars in 39 hours and 25 minutes, using 20 Amazon EC2 machine instances. I carried out this project because (among several other reasons) I wanted to understand what resources are required to crawl a small but non-trivial fraction of the web. In this post I describe some details of what I did. Of course, there’s nothing especially ne
S3に配置した画像をURLから指定したサイズにリサイズできるリアルタイムリサイズサーバをnodeで書いた。 Featuresスケーラブルでハイパフォーマンス。導入はとっても簡単。複数のバケットが使える。賢いキャッシュ。(ファイルサイズと更新日から304を返す)Architecture1台構成 +---------+ +------------+ +------------+ +----+ | Browser | <--> | CloudFront | <--> | EC2 (hose) | <--> | S3 | +---------+ +------------+ +------------+ +----+スケールアウト +------------+ | EC2 (hose) | +---------+ +------------+ +-----+ +------------+ +---
「・・・低いなー」とおもってネットを検索してみるとこんなものぽいですね。 プロセッサに Xeon(R) CPU E5430 @ 2.66GHz が見えます。4コアのCPUですね。 CPUリソースに関するカタログスペックは「最大2ECU(短期の定期的なバースト)」です。 1つの EC2 Compute Unit は、1つの 1.0-1.2 GHz 2007 Opteron または 2007 Xeon プロセッサの CPU 能力に等しい能力を提供します。 普段は1GHzでたまに本気出して2GHzってことですね。 ======================================================================== BYTE UNIX Benchmarks (Version 5.1.2) System: ip-10-146-39-173: GNU/L
ELBについて深く知りたくなってしまったので、改めて調べたり聞いたりした。 今回そもそも知りたかったポイントは下記の2点 ELBがどういう仕組みで膨大なトラフィックに耐えているのか ELBで稀に障害が発生するみたいなので、その影響をなんとか回避できないか ELBの概要 内部仕様に踏み込む前に、改めて概要と基本機能を確認。 ELBの役割 ELB(ElasticLoadBalancer)は、Webトラフィックを配下のEC2Instanceに適切に分散してバランスを取る仕組み、いわゆるロードバランサー。なぜ分散させる必要があるかというと、1台のサーバで処理可能なトラフィックには限りがあるから。また、AutoScalingや、Zone間分散(Multi-AZ)といった構成をとる為にも必要となる。 ELBの基本機能 ELBの基本機能は、高負荷システムにおいて、肝となる重要なものばかり 負荷分散
If you're thinking of doing RAID0 (disk striping) on the ephemeral storage disks attached to an EC2 instance, this post is for you. First I'll go through some directions since I didn't find great ones elsewhere when trying to do it myself. Then I'll get to why I wanted to do it in the first place. When you run your instances, you have to add the extra drives in the block device mapping or they wil
AWS 無料利用枠を利用すると、cache.t2.micro または cache.t3.micro ノードを 12か月の間 750 時間無料で使用できます
We’ve talked a bit in the past about our move to the cloud, and John shared some of our lessons learned in going through that transition in a previous post. Recently, we’ve been focusing on ways to improve availability and reliability and wanted to share some of our progress and thinking. The cloud is all about redundancy and fault-tolerance. Since no single component can guarantee 100% uptime (an
5/25(水)に、サイバーエージェント様と勉強会を開催いたしました。 そのときにクックパッドエンジニアが使用した発表資料を公開いたしますので ぜひご覧くださいませ。 当日お忙しい中お集まりくださった皆様、Ustreamでご覧になった皆様、どうもありがとうございました! ●成田一生 [slideshare id=8150494&doc=20110525tofu-110530080429-phpapp02] ●菅原元気 [slideshare id=8120106&doc=random-110527001900-phpapp01] ●濱崎健吾 [slideshare id=8107056&doc=110525amepad-110526022442-phpapp02] Ustreamはこちらからご覧ください。 クックパッドでは、これからもこのようなイベントを不定期に開催予定です。 こちらのブログ
※後継のMurakumoを開発中です。 https://bitbucket.org/winebarrel/murakumo/ http://d.hatena.ne.jp/winebarrel/20111202/p1 某勉強会でddnsのことを話したのですが、ほっとくと忘れ去られそうなので記事にまとめたいと思います。 https://bitbucket.org/winebarrel/ddns https://rubygems.org/gems/ddns これは何? 主にEC2での利用を想定した内部向けDNSサーバです。 ddnsはDynamic DNS…ではなくDistributed DNSの略です。直訳すると分散DNS。 ひどすぎる名前ですね。最悪です。gem pushしてから後悔しました。 まあネーミングセンスがないのは昔からです。 一般的なDNSサーバと違って、ホスト名の情報を分散管理
AWS Week in Review – AWS Documentation Updates, Amazon EventBridge is Faster, and More – May 22, 2023 Here are your AWS updates from the previous 7 days. Last week I was in Turin, Italy for CloudConf, a conference I’ve had the pleasure to participate in for the last 10 years. AWS Hero Anahit Pogosova was also there sharing a few serverless tips in front of a full house. Here’s a picture I […] Amaz
みんなが大好きなクラウドホスティングサービスのAmazon EC2ですが、インスタンスをバンバン立てたり落としたりしていると、ホスト名の管理が面倒になってきますよね。たとえば「さっき立てたインスタンスにSSHしたい!」と思ったら、consoleをひらいて、「ec2-xxx-xxx-xxx-xxx.compute.us-west-1.compute.amazonaws.com」なPublicDNSをターミナルにコピペして…みたいな面倒な事をやってしまいがちです。 これを避けるためには、~/.ssh/configをマメに更新したりするといいのですが、これはなかなか面倒な作業です。インスタンスは一旦StopしてRunし直すと、IPが変わってしまいますからね。 そこでec2sshの登場です ec2sshは、インスタンスのNameタグからホスト名を生成して、~/.ssh/configに書きこむツール
Programmatic Deployment to Elastic Mapreduce with Boto and Bootstrap Action A while back I wrote about How to combine Elastic Mapreduce/Hadoop with other Amazon Web Services. This posting is a small update to that, showing how to deploy extra packages with Boto for Python. Note that Boto can deploy mappers and reducers in written any language supported by Elastic Mapreduce. In the example below (i
Index of /releases/lucid/release Name Last modified Size Description Parent Directory - Current Released Image
私事で恐縮ではありますが、2010年7月31日をもってTIS株式会社/SonicGardenを退職することとなりました。 振り返れば、2004年に新卒で入社して、およそ6年と少しばかりを過ごしました。 最初の2年の半分くらいはSIっぽいこともしましたが、それ以降は技術部門で、「社内にはてなを作る・社内にWeb2.0を持ち込む」と始めたPJチームに参画し、超アジャイルな上長のもとで、社内Webサービスの企画・運営(運用)や、部のミッションでもあった先端技術の検証や、それらの現場への導入を行ってきました。この辺は、お客様企業内や、社内のことなので、あまり書けることはないのですけどね。 また、最後の2年は、社内ベンチャーカンパニーであるSonicGardenの立ち上げから参画し、クラウドサービス(Amazon EC2)を活用したSaaSビジネスの展開・Webサービスの運用や、クラウド導入支援など
大手クラウドサービスであるAmazon EC2では、9種類ものインスタンスタイプ(サーバの種類)から、利用したいスペックのサーバを選択できます。また、EC2のサーバは、4ヶ所ものリージョン(アメリカ東海岸、同西海岸、ヨーロッパ西部、シンガポール)から稼動させる場所を選択することができます。 ここで、気になるのが、Amazon Web Servicesの説明ページで、各インスタンスタイプの公表スペック差異として、EC2独自のCPU単位である"ECU"の数値や、IO性能のModerate(中)やHigh(高)で、どのくらいパフォーマンスが違うのかが見え辛いといった点。 また、一部の場所ではパフォーマンスが出ていない等の話が以前に出ていましたが、4ヶ所のロケーション(Region)によって、各場所でのインスタンス性能が全く同じなのか等も気になるところ。 ここを解明すべく、各種ベンチマークを実行し
初期投資を抑えつつサーバインフラを手軽に拡大/縮小できる、いわゆるクラウドサービスが人気みたいです。Amazon EC2 みたいなやつ。聞くところによると、ソーシャルアプリなどは、アクセス規模とかユーザの増加傾向が見積りにくいようで、そういうところで利用が進んでいるらしいです。 ところで、そういったサービスは、何もサービスを受け付ける側を作るのに使うだけでなく、(負荷試験やパフォーマンスチューニングのための)Web アクセス負荷を大量に発生させるインフラとしても使えるんでないかなあと思っていたら、やっぱりそういうモノがありました。JMeter in the Cloud という AMI (Amazon Machine Image) です。 JMeter In The Cloud – A cloud based load testing environment 元々 JMeter では、複数の
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く