タグ

distributedに関するtuneのブックマーク (4)

  • 分散システムにおける異常検出とスゲぇ HeartBeat についてのまとめ

    はじめに# coursera でとっている Cloud Computing Concepts で Gossip-Style HeartBeat というものが出てきたので詳しく調べてみた. Cloud Computing Concepts 以前の仕事について# 以前の仕事は異常監視。 信頼性を確保するために, 部品は冗長化されている. 最大で, 8 ノードの部品が互いを監視しあうような構成. あるの部品が故障した場合に, 別の部品で異常を検出して, その部品を部分的に停止するような機能. 監視のロジックは単純で, 定期的に相手と通信して, 通信タイムアウトが多発したら異常と判断する. 異常検出はそれがすべてと思っていた. しかし, 実際はずっと奥が深かったのだった. ということ. 以下, 詳しく. Failure Detector# 分散システムのノードの中で, 異常検出を担うものを Fai

    分散システムにおける異常検出とスゲぇ HeartBeat についてのまとめ
  • AuroraのストレージのQuorum原理 - yoshidashingo

    cloudpackエバンジェリストの吉田真吾(@yoshidashingo)です。 今回発表になった Amazon RDS for Aurora。最大の特徴はストレージが従来のRDS(Multi-AZ)における「完全同期なミラーディスク型のレプリケーション」方式でなく、「Quorumベースの非同期レプリケーション」方式が採用された点です。 Quorumの概念 Quorum自体の概念の説明はWikiなどを参照してください。ノード間で投票を行い、定足数が揃った処理を実行/破棄するという考え方です。 Quorum - Wikipedia 同期型のミラーディスク型から非同期のQuorum型へ Aurora以外のRDSのMulti-AZ配備は、マスターノードのディスクへの書き込みをブロックレベルでスタンバイ側に適用する完全同期なフィジカルレプリケーションを行っています。これにはいくつかの課題が考えら

    AuroraのストレージのQuorum原理 - yoshidashingo
  • Hadoopの解析資料

    オープンソース分散システム「Hadoop」に関する解析資料を公開させて頂いております。この調査はNTTレゾナント株式会社様と共同で行いました(プレスリリース)。 Hadoop解析資料(PDF), 最終更新: 2008/08/25, 公開: 2008/08/25 Hadoopの実際のインストール方法などにつきましては、弊社太田による以下の記事もご参考下さい。 Hadoop、hBaseで構築する大規模分散データ処理システム Hadoopのインストールとサンプルプログラムの実行 複数マシンへHadoopをインストールする

  • space

    A Ruby MapReduce Framework Skynet RubyForge Home Documentation See Skynet at RailsConf 08 Sat Mar 31, 2008 4:25pm – 5:15pm PDT @ Portland Ballroom 255 More Info What is Skynet Skynet is an open source Ruby implementation of Google’s MapReduce framework, created at Geni. With Skynet, one can easily convert a time-consuming serial task, such as a computationally expensive Rails migration, into a di

    tune
    tune 2008/06/20
    MapReduceのRuby実装
  • 1