タグ

lustreに関するhideokiのブックマーク (10)

  • LustreファイルシステムのI/O性能評価

    LustreファイルシステムのI/O性能評価 藤原 樹,廣安 知之,三木 光範 ISDL Report No.20040803004 2004年 10月 27日 Abstract 報告では,大規模なクラスタ用に開発された分散ファイルシステムであるLustreファイルシステムの性能の評価行った.OSTを1台から4台まで増やし,I/Oパフォーマンスの性能を評価した.性能評価にはI/Oベンチマークであるbonnie++を用いた.計測結果,OST4台程度では性能の差が見れらないことがわかった.また,LustreとNFSの性能評価を行ったところ,今回の実験環境ではNFSの性能が良好な性能を示した. 1  はじめに Lustreはメタデータを管理するMDSがロードバランスを行うことでデータを分散し,負荷が特定のOSTサーバに集中しないようにしている.そのため,既存の分散ファイルシステムであるNFSよ

  • https://mail.clusterfs.com/wikis/lustre/KernelPatchManagement

  • https://mail.clusterfs.com/wikis/attachments/LustreManual.html

  • https://mail.clusterfs.com/wikis/lustre/LustreHowto

  • クラスタファイルシステム「lustre」を触ってみます : DSAS開発者の部屋

    負荷分散環境では必須ともいえるネットワークストレージですが、皆様の環境ではどのようなものをお使いでしょうか。 「ファイル共有なんてなくしてしまえっ!!」って言いたくなることも時々あったりしますが(笑)、画像などの素材データ類はDBに格納するよかファイルとして扱う方が運用上楽だったりするので、そう簡単に抹殺するわけにもいきません。 DSASではDRBDで冗長化したNFSサーバ(もちろんLinuxベース)をネットワークストレージとして使っていますが、構成上どうしても特定のサーバに負荷が集中しがちになるのが悩みの種です。 特にせっぱ詰まって困ってる訳ではないのですが「どーしたもんかなあ」と物思いにふけっていると、いつもお世話になっている協力会社の方から「lustreってのもあるよん」と教えてもらったので軽く調べてみました。これはなかなか楽しそうなクラスタファイルシステムじゃあないですか! lus

    クラスタファイルシステム「lustre」を触ってみます : DSAS開発者の部屋
  • 分散ストレージについて再び(1) - pekeqのブログ

    まず以前の私の記事でLustreを推していたが、これは撤回すべきだと思う。 日でLustreを気で使っている組織のひとつに東工大がある。東工大はTsubameクラスタでLustreを使っているのだが、TSUBAMEグリッドクラスタのページを見てほしい。/work, /work2の障害のお知らせが定期的に載っているのがわかるだろうか。この/work, /work2というのがLustreで提供されているボリュームで、見てわかるように、とても頻繁に障害が起きている。 障害の主な原因のひとつは、LustreがノードをRAID0でまとめていることと、メタデータサーバが頻繁に止まってしまうことに起因しているようだ。RAID0の場合、ディスクが1台でも止まると、ボリューム全体にアクセスできなくなる。これと同じことがLustreではノードで発生し、ストレージノードが一台止まると、クラスタごと止まってし

    分散ストレージについて再び(1) - pekeqのブログ
  • Lustreファイルシステムの概要

    Lustreファイルシステムの概要 藤原 樹,廣安 知之,三木 光範 ISDL Report No.20040803002 2004年 6月 28日 Abstract 報告ではLustreファイルシステムの概要について調べる.Lustreファイルシステムとは既存のNFSやAFSのような分散ファイルシステムでは対応できない大規模クラスタなどのシステムのために開発されているオープンソースの分散ファイルシステムである. 1  はじめに 近年,並列計算に用いられるクラスタが大規模化し,クラスタを構成するノード数が増加している.クラスタにおいて広く用いられている分散ファイルシステムのNFS,AFSを用いた場合,NFSサーバ1台に対してNFSクライアントが複数マウントするため,マウントするノード数の増加に伴いサーバに対する負荷が増大し,I/Oスループットが低下してしまう.また膨大な計算結果を出力する

  • lustre - 詳解ファイルシステム

    詳解ファイルシステム Linuxのファイルシステムを詳解します トップページページ一覧メンバー編集 lustre 最終更新: linuxfs 2007年01月02日(火) 11:49:37履歴 Tweet FrontPage 詳解Lustre 詳解Lustre Lustreとは Lustreの特徴1 Lustreの特徴2 Lustreの特徴3 lustreの使い方詳解 その他諸元(2006/03/28 現在) Lustreとは Lustreとは、Cluster File Systems, Inc.がGPLに基づいて配付している、クラスタファイルシステムです。~ POSIXに準拠しています。~ ライセンス  : GNU GPL~ 作者     : Cluster File Systems, Inc.~ ホームページ : http://www.lustre.org/ ~ https://mai

    lustre - 詳解ファイルシステム
  • Lustre

    The Lustre® file system is an open-source, parallel file system that supports many requirements of leadership class HPC simulation environments. Whether you’re a member of our diverse development community or considering the Lustre file system as a parallel file system solution, these pages offer a wealth of resources and support to meet your needs. Events Lustre User Group (LUG) 2023 What’s Here?

  • 分散ファイルシステム - pekeqのブログ

    more better NFS OpenAFS, Lustre, IBRIX NFSはNetworkedなファイルシステムなだけであって、Distributedではない focus on disconnected operation Coda, Intermezzo I/Oパフォーマンスを上げるために、ネットワーク上でストライピング PVFS 最強? IBM GPFS フリーで使える実装としては、Lustreが一番大規模で美しい(かっこいい)。メタデータを保管するサーバと、実体を保管するサーバが完全に分かれている。ただ、slashdotにあったように、管理が大変そうだ。オブジェクトストレージサーバが、shared diskによるフェイルオーバなのも、いま風のかっこよさではない感を誘う。 現時点では、OpenAFSが一番リーズナブルな解であるように思える。データのレプリケーションをサポートし

    分散ファイルシステム - pekeqのブログ
  • 1