タグ

ブックマーク / ftp-admin.blogspot.com (7)

  • ftp-adminの憂鬱: Intel SSD 750が壊れました

    最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 今朝の10時30分ごろに、ftp.jaist.ac.jpからほとんどデータが流れてこなくなったので様子を見たところ、Intel SSD 750が壊れていました。 iostatを取ったところ、書き込みは2MB/s程度しか書けず、読み込みはほとんど止まっていました。負荷(%b)は100%から400%を超える数字を示すこともありました。とても正常とは言いがたい状態でした。 $ iostat -xM blkdev0 1 extended device statistics device r/s w/s Mr/s Mw/s wait actv svc_t %w %b blkd

    yass
    yass 2017/03/09
  • Intel SSD 750の耐久テスト

    ftp.jaist.ac.jpでは、Intel SSD 750 1.2TBをZFSのL2ARCとして使用しています。このSSDの寿命が今日で残り半分になりました。NVMeのSSDの寿命は、SMARTのPercentage Usedという項目でわかります。この値が今日50%に達しました。 このグラフは書き込み量とPercentage Usedの推移をプロットしたものです。今日までにSSDに書き込んだ量は509.6TBです。Intel SSD 750で保障されている総書き込み量は127TBですが、ずっと多く書けています。 書き込み量とPercentage Usedは比例しているので、Percentage Usedが100%に達するまでには1PB以上書けそうです。実際には100%を超えても書けるはずなので、運用に支障をきたさない範囲で利用を続けるつもりです。 SMARTの記録を取り始めたのが3月

    Intel SSD 750の耐久テスト
    yass
    yass 2016/07/31
    " NVMeのSSDの寿命は、SMARTのPercentage Usedという項目でわかります。"
  • ログファイルの圧縮方法

    圧縮レベル2と3では、bzip2よりずっと短い所要時間で高い圧縮率が得られています。興味深いのはレベル4で、所要時間が大きく増えたのに圧縮率が下がっています。xzはレベル4からLZ法の一致文字列を探すアルゴリズムが変わるので、これが裏目に出ているようです。 bzip2より2割以上高い圧縮率が得られるレベル7以上では、所要時間は5倍以上になります。ログファイルの圧縮方式が混ざるのは何かと面倒なので、5倍の所要時間でこの程度の圧縮率の差ではxzに変更する気にはなれないです。 圧縮率はそうでもないですが、xzの伸張速度の速さはとても魅力的です。デフォルトの圧縮率のファイルを伸張するのに、bzip2が1分22秒かかるのに対してxzは25秒しか掛かりません。ログを集計するときに伸張速度が3倍近く速いのはとても有利です。 もし圧縮方法を決め直せるならxzにするかもしれません。適宜レベルを調節してbzi

    yass
    yass 2013/10/11
    " gzipとbzip2の圧縮率はアクセスログでは約2倍違います / デフォルトの圧縮レベルでgzipで圧縮すると195MBに、bzip2では104MBになります。その代りに所要時間はずっと長くなります。Xeon X5660 (2.8GHz)のサーバーで測ると / 12.8倍 "
  • ネットワーク性能のチューニング (TCP編)

    前回はsun4vアーキテクチャのSolarisでネットワーク性能を改善する方法について説明しました。今回はSolaris一般についてTCPの性能を改善する方法を説明します。 TCPの性能のチューニングといえば、まずはウィンドウサイズです。必要なウィンドウサイズは、通信相手とのRTT(ms)÷1000×帯域(bps)÷8で求められます。今どきはRTTが300msくらいあるヨーロッパ相手でも50Mbpsとか出ることがあるので、2MBはほしいです。国内については、石川県から東京を経由して行くので場所によってはRTTがいくらか大きくなりますが、悪くても50ms程度なので2MBもあれば320Mbpsまで対応できます。 受信ウィンドウの最大値を決めるカーネルパラメータはtcp_recv_hiwatで、デフォルトは48KiBです。ミラーサーバは受信のスループットをあまり必要としませんが、これはあまりにも

  • BufferedLogsは効果絶大

    最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. Apache HTTP ServerのBufferedLogsディレクティブは、マニュアルでexperimentalとされていたので今まで試していませんでした。BufferedLogsディレクティブを有効にすると、リクエストごとにログを出力せずに、いったんバッファに蓄えてまとめて出力するようになります。 マニュアルにはBufferedLogsディレクティブによってディスクアクセスが効率的になると書かれていますが、これが効いてくるのはむしろパイプ経由のログ出力です。ログがパイプに出力されて、パイプの反対側のプログラムが実行可能になる頻度が下がるからです。このところCP

  • worker MPMの設定(前編)

    最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. ftp.jaist.ac.jpではHTTPサーバとしてApache HTTP Server (以降Apacheと略記)を使っています。lighttpdじゃないんですかって? えぇ、違います。SourceForge.netのミラーネットワークに参加するためには、Apacheのmod_rewriteを前提にした複雑なURL書き換え規則を受け入れる必要があるので、Apacheでないとだめなんです。 バージョンはまだ2.0系を使っています。当は、atomic operationがちゃんと使われている2.2系を使いたいのですが、直ったことになっているこのバグがまだ直っていな

  • SSDによるコンテンツキャッシュ(ソフト編)

    最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. ZFSにはSSDをキャッシュに使ってランダムリードの性能を稼ぐL2ARCという仕掛けがあります。L2ARCはOpenSolarisでは使えるのですが、Solaris 10ではまだ使えません。10u6 (10/08)で使えるようになると言われていたのが延期されて、今年の10u7 (5/09)で使えるだろうと思っていたのが、また延期されてしまいました。実は10u7に合わせてSSDを購入したのですが、当てが外れてしまいました。 仕方ないのでバージョン2.2から実用可能になったApacheのmod_disk_cacheを使おうかと思ったのですが、これがうまくありませんでした

  • 1