タグ

クラウドとMapReduceに関するwasaiのブックマーク (4)

  • 国立情報学研究所 佐藤教授が語る「クラウドコンピューティングの将来動向」(ビッグデータ編)

    8月31日から2日間、都内で行われたイベント「Cloud Computing World Tokyo 2011」。そのイベントへの申し込み段階で最初に満員となったのが、国立情報学研究所 佐藤一郎教授のセッション「クラウドコンピューティングの将来動向」でした。 技術的な背景に基づき、ビッグデータ活用に必要な条件とは何か、クラウドのビジネスモデルはどうなるのか、データセンターの進化の方向性、などについて具体的な解説が行われています。 この記事では、そのセッションの内容を紹介しましょう。 ビッグデータ流行の背景となったMapReduce/Hadoop 国立情報学研究所 アーキテクチャ科学 研究系 教授 佐藤 一郎氏。 分散システムの研究者から見た、クラウドのインフラの話、10年先の話をしようと思います。 1つ目はビッグデータの話題。 ビッグデータの処理技術MapReduce/Hadoop」は、

    国立情報学研究所 佐藤教授が語る「クラウドコンピューティングの将来動向」(ビッグデータ編)
  • AWS News Blog

    AWS Week in Review – AWS Documentation Updates, Amazon EventBridge is Faster, and More – May 22, 2023 Here are your AWS updates from the previous 7 days. Last week I was in Turin, Italy for CloudConf, a conference I’ve had the pleasure to participate in for the last 10 years. AWS Hero Anahit Pogosova was also there sharing a few serverless tips in front of a full house. Here’s a picture I […] Amaz

  • クラウド技術の活用ポイントを学ぶ

    クラウドを構成する技術 最近ではすっかり一般化した「クラウド」。様々な記事や講演で「クラウドサービスをどのように使うか」という情報が紹介されているが、そのクラウドサービスがどのような技術で構成されているかについては、普段あまり意識しないのではないだろうか。例えば、「クラウドと言えば仮想サーバー」のように理解されている向きも多いが、それだけがクラウドのすべてではない。「クラウドを利用する」側では、その基盤技術にまで踏み込む必要はないかもしれないが、自社のシステムへのクラウド導入を検討する上で、それらの技術がどのようなものかを知っておくことは有用である。今回は、クラウド技術の中でも特徴的な「MapReduce」および「KVS」と「NoSQL」について解説しよう。 「MapReduce」や「KVS」「NoSQL」といった技術は、いわゆる「分散コンピューティング」と呼ばれるものだ。いずれも通常のア

    クラウド技術の活用ポイントを学ぶ
  • そろそろHadoopについてひとこと言っておくか - nokunoの日記

    もうこの手の話題は出尽くした感がありますが、最近Hadoopについて考えることが多いので、エントリにしてみます。なお、ここではベーシックなMapReduce+HDFSのことをHadoopと呼ぶことにします。 HadoopとはHadoopとは言わずと知れたGoogleMapReduce/GFSのオープンソースのクローンです。MapReduceではプログラマはMapとReduceという2つの関数を書くだけで、並列分散処理をすることができます。これは(1) データを実際に持つマシンにプログラムを配布する (2) MapとReduceをつなぐShuffleフェーズでキーをグループ化してソートする、(3) 障害時のフェールオーバーやレプリケーション、といった処理をフレームワーク側が受け持つことによって、プログラマ側の負担を減らすものです。GFSに対応するHDFSにはファイルをクラスタに分散して保存

  • 1