タグ

filesystemとXFSに関するyassのブックマーク (12)

  • http://www.xfs.org/images/d/d1/Xfs-scalability-lca2012.pdf

  • XFS File-System Has Many Changes For Linux 3.18 - Phoronix

    XFS File-System Has Many Changes For Linux 3.18 Written by Michael Larabel in Linux Storage on 13 October 2014 at 01:35 PM EDT. Add A Comment Dave Chinner sent in the XFS feature pull request for the Linux 3.18 kernel. Changes for the XFS file-system with Linux 3.18 include: - Various cleanups - Log recovery debug hooks - Seek hole/data implementation merge - Extent shift rework to fix collapse ra

    XFS File-System Has Many Changes For Linux 3.18 - Phoronix
  • EXT4 vs XFS vs Btrfs vs ZFSをfioでベンチマークを取ってみました。 - Qiita

    概要 CentOS7のデフォルトのファイルシステムがXFSとなりました。 mkfsコマンドでも、minix, xfs, btrfsが使えるようになりました。 そこで気になるファイルシステムを色々調べ、ベンチマークを自分なり取ってみました。 多少なりともご参考になればと思います。 色々なファイルシステム こちらをご参考ください。 http://qiita.com/sion_cojp/items/c8e015db39ddbf43012e それぞれファイルシステムを作ってみる 今回の環境は CentOS6(ホスト) 4Core, MEM:32G, HDD:300G CentOS7(ゲスト。こちらで計測しております。) vCPU *1, MEM:4G, HDD:40G 容量が少なかったため、btrfsのベンチマークが終わった後、zfsにファイルシステムを変更し検証をしております。 ### zfsの

    EXT4 vs XFS vs Btrfs vs ZFSをfioでベンチマークを取ってみました。 - Qiita
    yass
    yass 2014/08/14
    " ファイルシステムが混在するのは出来る限り避けたい。 というのをベースにするとXFSが良い / ストレージ系にxfsは無謀。(fsck時に1TBにつきメモリ1GBとか論外。)"
  • Re: making file system block size bigger to improve hdfs performance ?

    By default, Linux file systems use a 4K block size. Block size of 4K means all I/O happens 4K at a time. Any *updates* to data smaller than 4K will result in a read-modify-write cycle on disk, ie, if a file was extended from 1K to 2K, the fs will read in the 4K, memcpy the region from 1K-2K into the vm page, then write out 4K again.If you make the block size 1M, the read-modify-write cycle will re

    yass
    yass 2014/07/06
    " If you insist on HDFS, try using XFS underneath, it does a much better job than ext3 or ext4 for Hadoop in terms of how data is layed out on disk. But its memory footprint is alteast twice of that of ext3 "
  • xfs_fsrを使ってXFSファイルシステムをベストの状態で使用する

    大規模なファイルの保存/アクセスで性能を発揮するXFSファイルシステム。フラグメント化したファイルをデフラグするユーティリティ「xfs_fsr」を使えばシステムの性能を向上させることができる。 XFSファイルシステムは大規模なファイルの保存/アクセスについての性能が高いことで知られている。XFSの設計はエクステントベースで、ファイルの内容は1つ以上のエクステントと呼ばれる連続的な領域内に保存されている。XFSファイルシステム内のファイルは、ユーザーの使い方によってはフラグメント化することがあるが、xfs_fsrユーティリティを使ってそのようなファイルをデフラグすることでファイルアクセスについてのシステムの性能を向上させることができる。 ファイルをXFSファイルシステム上にコピーすると、通常は1つのエクステント内にファイルの全内容が保存される。しかしその後ファイルを延長したり新たなデータで内

    xfs_fsrを使ってXFSファイルシステムをベストの状態で使用する
    yass
    yass 2014/07/05
    " xfs_fsrユーティリティを使ってそのようなファイルをデフラグすることでファイルアクセスについてのシステムの性能を向上させることができる。"
  • Google Sites: Sign-in

    Not your computer? Use a private browsing window to sign in. Learn more about using Guest mode

  • 64bitファイルシステム XFSの実装

    XFSのジャーナリング機能 XFSのジャーナリング機能は、メタ・データをジャーナルする方式である。ext3のように、メタ・データを書き込む前にデータをディスクに書き込むといった特別な方式は取っていない。XFSの特徴は、ログを頻繁に更新することで、復旧時にこのログの手順を再生する確率を高めている点である。 例えば、XFSはwriteなどのオペレーションが行われると、オペレーションのログとしてメタ・データの更新操作情報がメモリ上のバッファに書き込まれる(1)。バッファのデータは、ディスクに書き込まれるとジャーナルファイルとなる(2)。このディスクへの書き込みは非同期に行われる。ジャーナルファイルの書き込みが完了すると、リソースをディスクに書き込む。クラッシュ後の復旧は、マウント時にジャーナルファイルが読み込まれ、メタ・データのチェックを行うことで実行される。 XFSのジャーナルログの構造 XF

    64bitファイルシステム XFSの実装
    yass
    yass 2014/06/29
    " XFSのライトアヘッドロギングは、ログがon-disk logにコミットされるまで、修正されたデータをディスクにフラッシュしない。"
  • Cloudera Hybrid Data Community

    Auto-suggest helps you quickly narrow down your search results by suggesting possible matches as you type.

    yass
    yass 2014/06/29
    " ext3 has been extensively tested with Hadoop and is currently the stable option to go with. "
  • ブロックアルゴリズムとB-Treeアルゴリズム

    ファイルサーチを高速化するB-Treeアルゴリズム ext2、ext3がベースとするブロックアルゴリズムは、ブロック数が対応するディスクのジオメトリ数に制限されること、ファイルサーチにO(n)かかる(注)こと、ファイルサイズに関係するパフォーマンス低下など、いくつかの問題があった。 注:「O(n)」とは、実行時間が入力の大きさ「n」に比例するアルゴリズムである。O(n)は「nのオーダー」または「オーダーn」と読む。後述する「O(log n)」は、アルゴリズムの計算量に関する議論の場合logの底は常に2で、O(log n)の方がO(n)よりも効率が良い。例えばn=8の場合、O(log n)は入力8に対して3回の実行で済むが、O(n)は8回の実行となる。 ReiserFS、JFS、XFSといったファイルシステムでは、こうしたブロックアルゴリズムの限界に対して、早い段階からデータベースの技術をフ

    ブロックアルゴリズムとB-Treeアルゴリズム
    yass
    yass 2014/06/29
    " B+-Treeはデータとキーを完全に分けて管理 / ノードの下位層をインデックス部とデータ部に分けて構成し、「データ」は常にリーフノードに保存する。インデックス部の各ノードは4つのキー値と5つのポインタのみを保持 "
  • Why buffered writes are sometimes stalled

    Many people think buffered write (write()/pwrite()) is fast because it does not do disk access. But this is not always true. Buffered write sometimes does disk access by itself, or waits for some disk accesses by other threads. Here are three common cases where write() takes longer time (== causing stalls). 1. Read Modify Write Suppose the following logic. Opening aaa.dat without O_DIRECT/O_SYNC,

    Why buffered writes are sometimes stalled
    yass
    yass 2014/03/11
    " 1. write() does disk read when needed. To avoid this issue you need to append a file, not overwrite. Or use OS page aligned writes.   2. write() may be blocked for "stable page writes". To avoid this issue you need to use newer Linux kernel supporting disabling stable page writes. "
  • XFSの想定Q&A

    RHEL 7のデフォルトファイルシステムがXFSになるので想定FAQを twitterでつぶやいた まとめ ext3/ext4からフォーマットせずにxfsへ移行できますか? →できません。バックアップのリストアによる移行をおねがいします RHEL7でext3/ext4はつかえますか? →引き続き利用可能です XFSで十分でかいとこまでいけるけどRHS買う必要あるの? →パフォーマンスや冗長性の要件にあわせてお選びください XFSって実績あるの? →はい。RHEL5に対する追加製品、RHEL6のAdd-onとして過去数年販売しており実績がございます。もし何か問題があればサポートにご確認ください。 XFSってX font serverとまぎらわしい →そうですね XFSって16EBまでいけるってwikipediaに書いてるよ →サポート上限は実際に検証したサイズなので論理的な上限より小さいです

    yass
    yass 2013/08/28
    " RHEL 7のデフォルトファイルシステムがXFSになる"
  • Ric Wheeler Architect and Manager, Red Hat May 5, 2011 ONE BILLION FILES: Pushing Scalability Limits of Linux File Systems Overview ● Why Worry about 1 Billion Files? ● Storage Building Blocks ● Things File Systems Do & Performance ● File System

  • 1