Since the Dynamo paper, published a few years ago, DHTs and consistent hash have become mainstream. Here is my implementation of a virtual node router that uses consistent hash algorithm for splitting requests to the virtual nodes: import jav... 続きを読む
On Fault-Tolerant Data Placement in Storage Networks Dissertation by Mario Mense Faculty of Computer Science, Electrical Engineering and Mathematics Department of Computer Science and Heinz Nixdorf Institute University of Paderborn, Germany ... 続きを読む
The Design of a Robust Peer-to-Peer System Rodrigo Rodrigues, Barbara Liskov, Liuba Shrira MIT Laboratory for Computer Science¡ rodrigo, liskov, liuba¢ @lcs.mit.edu Abstract Peer-to-peer (P2P) overlay networks have recently become one of t... 続きを読む
大学院論文輪講資料 平成 15 年 5 月 30 日 ネットワークストレージに関する動向調査 新領域創成科学研究科 青山森川研究室 37302 岡 敏生 As information technology becomes indispensable for our society, reliable management of digital data is becomin... 続きを読む
Efficient Replica Maintenance for Distributed Storage Systems Byung-Gon Chun,† Frank Dabek, Andreas Haeberlen,‡ Emil Sit, Hakim Weatherspoon,† M. Frans Kaashoek, John Kubiatowicz,† and Robert Morris MIT Computer Science and Artificial In... 続きを読む
kumofs kumo fast storage 古橋 貞之 自己紹介 • 古橋 貞之(ふるはし さだゆき) • 筑波大学 情報学類3年 • id:viver • frsyuki@twitter 自己紹介 ディスクレスブートシステム ペアプログラミング 支援システム 多人数音声チャットシステム kumofs • ... 続きを読む
kumofsのアプリケーション-Gateway間のインタフェースは Get(key) だが、Gateway-Server間のインタフェースは実は GetByHash(key, partitioning-id)(とGetByHashIfModified(key, partitioning-id, time))だったりする。(名前は違うけど意味は同じ)つまり関... 続きを読む
Tuesday, 27 November 2007 Consistent Hashing I've bumped into consistent hashing a couple of times lately. The paper that introduced the idea (Consistent Hashing and Random Trees: Distributed Caching Protocols for Relieving Hot Spots on the W... 続きを読む
Stride and Associates | Blog Network — Candidate Advantage | Hiring Juice | .NET Convo | Open Source Convo A collaborative Open Source technologies blog focused on scalability, web development, and the latest software... 続きを読む
id:nyaxt氏との共同開発の分散ストレージ「Cagra」(かぐら)のアルファ版をリリースしました。cagra α3リリースcagra テクニカルデモ α2リリース分散ストレージエンジンテクニカルデモ α版リリースcagraのα版試してみたよ - takumalog Cagraは以下のような特... 続きを読む
Giggle: A Framework for Constructing Scalable Replica Location Services Ann Chervenak1 Ewa Deelman1 Ian Foster2,3 Leanne Guy4 Wolfgang Hoschek4 Adriana Iamnitchi2 Carl Kesselman1 Peter Kunszt4 Matei Ripeanu2 Bob Schwartzkopf1 Heinz Stockinge... 続きを読む
J Supercomput DOI 10.1007/s11227-007-0126-4 Insight into redundancy schemes in DHTs Guihai Chen · Tongqing Qiu · Fan Wu © Springer Science+Business Media, LLC 2007 Abstract In order to provide high data availability in peer-to-peer (P2P) DHT... 続きを読む
http://behemoth.strlen.net/~alex/voldemort-nosql_live.ppt のHTMLバージョンです。 G o o g l eではファイルを自動的にHTMLに変換して保存しています。 Project Voldemort Distributed Key-value Storage Alex Feinberg http://project-voldemort.com/ ... 続きを読む
Sometimes you need more than words to illustrate a point. Here is Basho's humble attempt to clarify the difference between "Dynamo-Style" systems (like Riak) that use consistent hashing to achieve fault tolerance and prevent data loss, and sy... 続きを読む
A Simple Fault Tolerant Distributed Hash Table∗ Moni Naor †‡ Udi Wieder † Abstract We introduce a distributed hash table (DHT) with loga- rithmic degree and logarithmic dilation. We show two lookup algorithms. The first has a message com... 続きを読む
Vol.4 August 2009 CloudComputingTechnology 24 3.1 Introduction It is said that cloud computing represents a paradigm shift from owning computing resources to using them. At IIJ, we have been developing and operating technology for supportin... 続きを読む
HTTP Git Read-Only This URL has Read+Write access 続きを読む
Recently I've been unlucky enough to contract a wrist tendonitis on both arms. I guess it was just a matter of time, always working on laptops in awkwardRecently I’ve been unlucky enough to contract a wrist tendonitis on both arms. I guess i... 続きを読む
commit 126 bff09637e2bb parent 125 0512272a21de branch omake OMake -P with subdir seems working Who UENISHI Kota <kuenishi_at_gmail_com> When 8 months ago .. All these works are translation of "CouchDB: The Definitive Guide". .. highlight:: j... 続きを読む
Redundancy Schemes for High Availability in DHTs Fan Wu, Tongqing Qiu, Yuequan Chen, and Guihai Chen State Key Laboratory of Novel Software Technology, Nanjing University, China Abstract. High availability in peer-to-peer DHTs requires data ... 続きを読む
DHTからAmazon Dynamoまで http://www.techno-brain.co.jp/careerlab/seminar/cloud_20100206/gaiyou.html でのプレゼン資料です。一部、書き直しています。 「技術屋目線でのクラウドの実際と今後」 「クラウドのスケーラビリティーを実現するアルゴリズム」 ... 続きを読む
Consistent Hashing が便利なのは、頻繁にノードが上がったり落ちたりする環境で、ネットワークレベルで可用性を保証する必要がある場合。逆に RDBMS のシャーディング等でノード毎に高可用性を確保しているノード追加/削除は頻繁じゃない場合は、値域分割が有... 続きを読む
首藤 一幸 Last-updated: January 5, 2010 注: このページの文章は Software Design 誌 2010年 2月号に掲載された以下の記事の元原稿です。 Software Design 誌編集部の了承の元に、本ウェブページに掲載しております。 首藤一幸: "key-valueストアの基礎知識",... 続きを読む
scale out の技術 〜 consistent hashing 編 首藤 一幸 2008年 12月 19日 cloud 研究会 (丸山不二夫氏主宰) スライド: shudo-cloud-scaleout-20081219.pdf (PDF ファイル, 840 KB) 関連資料: オーバレイによる分散キャッシュ: ウェブページ (21 pages, HTML) Un... 続きを読む
Consistent Hashing は、 複数のノードにレコードを分散させる方法として、 Amazon Dynamo や Cache::Memcached::Fast などで使われているアルゴリズムです。 この文章では、Perl で実際に Consistent Hashing を実装し、 その特徴を理解することを目的とします... 続きを読む
ConsistentHashing - コンシステント・ハッシュ法 目次 この文書について コンシステント・ハッシュ法 実例 実装 用途 コンシステント・ハッシュ法 この文書について "Tom White's Blog: Consistent Hashing" の日本語訳です. http://weblogs.java.net/blog/tom... 続きを読む