Distributed algorithms are algorithms designed to run on multiple processors, without tight centralized control. In general, they are harder to design and harder to understand than single-processor sequential algorithms. Distributed algorithms are used in many practical systems, ranging from large computer networks to … Show more Distributed algorithms are algorithms designed to run on multiple pr

Yonghong Yan, Barbara M. Chapman, Michael Wong HPCコミュニティーは、エクサスケール時代に向かい、かつてないレベルの複雑さと大きさを実現するように期待されている。将来のアプリケーション性能を最大にする挑戦は、ノード内の全ての資源を使うノード内実行効率に依存していると、コミュニティーは同意している。これらのノードは、複数のコヒーレンシ領域内にある多くの同一計算コアから成ることもあれば、制約があるものの効率が良い専用のコアを含む異質(ヘテロジニアス)なものから成ることもある。一般的に、ヘテロジニアスとマルチコアのプロセッサーの両方が一般的になると期待されている。ノードそれぞれの中で物理的に共有されるメモリーを期待するが、アクセス速度は、コアの内部かコアにまたがるか、メモリーの種類、より深いメモリー階層、そして性能最適化にとって挑戦的なNUMA (

How to Quantify Scalability The Universal Scalability Law (USL) The purpose of models is not to fit the data but to sharpen the questions. —Sam Karlin This page is intended to supplement the following Chapters in my Guerrilla Capacity Planning book [Gunther 2007]: Chap. 4: Scalability: A Quantitative Approach Chap. 5: Evaluating Scalability Parameters Chap. 6: Software Scalability as well as the n

Yahooの技術者が書いたブログ techblog.yahoo.co.jp が悪い方向に期待を裏切ってくれたのに対し、 @kuenishi さんがまとまった文章 kuenishi.hatenadiary.jp を書いていたので、僕も2番煎じぐらいでまとまった文章を書く。 始めに断っておくと、分散システムというのはまだまだ事例を集めていくフェーズを抜けきっておらず、体系立った大統一理論的な分類法は確立していない。ここに書くのは、これまでの分散システム事例やこれからの分散システム事例を分類していく際にその性質をカテゴライズする一助となれば良いな、程度の文章なのであまり真に受けないで欲しい。 なぜYahooの記事が期待はずれなのか 人によって意見はあるとは思うが、個人的に感じたのは以下の３つ。 分散システムのデザインパターンと銘打っておきながら並列・並行システムの分野の話からクラウド環境へとこじ