サクサク読めて、アプリ限定の機能も多数!
トップへ戻る
おみそ汁
ftp-admin.blogspot.com
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 最初に、5月12~13日の計画停電によるシステム停止で、ご迷惑をおかけしたことをおわびします。 このタイミングでftp.jaist.ac.jpのハードウェアのリプレースを行いました。新しいサーバーはAMD EPYC 7551Pを一つ搭載したDell PowerEdge R7415です。従来はSupermicro 2024GにOpteron 6344を4つ搭載して48コアでしたが、今回はシングルソケットで32コアとなります。 従来からJAISTは、Dellから機材の提供を受けて評価することを継続的に行っていました。今回EPYCを試したい旨打診したところ、DellがEP
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 今朝の10時30分ごろに、ftp.jaist.ac.jpからほとんどデータが流れてこなくなったので様子を見たところ、Intel SSD 750が壊れていました。 iostatを取ったところ、書き込みは2MB/s程度しか書けず、読み込みはほとんど止まっていました。負荷(%b)は100%から400%を超える数字を示すこともありました。とても正常とは言いがたい状態でした。 $ iostat -xM blkdev0 1 extended device statistics device r/s w/s Mr/s Mw/s wait actv svc_t %w %b blkd
ftp.jaist.ac.jpでは、Intel SSD 750 1.2TBをZFSのL2ARCとして使用しています。前回に今年のクリスマスに寿命が尽きると予想しましたが、さいわいなことに外れました。以下に、書き込み量とPercentage Usedの推移をプロットしたものを示します。 今日の時点で、書き込んだ量は849TBでPercentage Usedは88%です。夏を境に書き込み量が減ったため、寿命の減り方が遅くなりました。この調子ですと寿命が尽きるのは3月半ば、1年持ちそうですね。 書き込み量が減ったのは、sourceforge.netのトラフィックが減ったからです。7月の第一週は6.7TB/日あったのが、9月の第一週には3.2TB/日と半分以下になりました。台湾のミラーが復活して、アクセスが分散されるようになったからだと思います。 L2ARCは、ARCからこぼれそうになったデータを
ftp.jaist.ac.jpでは、Intel SSD 750 1.2TBをZFSのL2ARCとして使用しています。このSSDの寿命が今日で残り半分になりました。NVMeのSSDの寿命は、SMARTのPercentage Usedという項目でわかります。この値が今日50%に達しました。 このグラフは書き込み量とPercentage Usedの推移をプロットしたものです。今日までにSSDに書き込んだ量は509.6TBです。Intel SSD 750で保障されている総書き込み量は127TBですが、ずっと多く書けています。 書き込み量とPercentage Usedは比例しているので、Percentage Usedが100%に達するまでには1PB以上書けそうです。実際には100%を超えても書けるはずなので、運用に支障をきたさない範囲で利用を続けるつもりです。 SMARTの記録を取り始めたのが3月
サーバーを交換して以来、キャッシュのヒット率が低くストレージの負荷が高くなっていましたが、メモリを192GBから256GBに増量したことと、L2ARCをチューニングしたことにより、キャッシュのヒット率が上がりストレージの負荷を大幅に減らすことができました。 最初に、メモリの192GB中64GBが4GBのモジュールだったのを、8GBのモジュールに換装して256GBにしました。これによりARCのヒット率は一日平均で95.7%から96.8%に改善しましたが、L2ARCのヒット率は24.9%から21.2%に下がってしまいました。L2ARCでヒットしていたデータがARCでヒットするようになったからです。
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 前回述べたように性能には苦しめられたものの、ストレージをiSCSIのボリュームに一度移行したおかげで、HDDのストレージを再構築できました。今回は、24スロットのSASエンクロージャーの2TBのHDDを4TBに交換して、11本構成のRAID-Z2が2組とスペア2本だったのを、6本構成のRAID-Z2を4組にしました。容量は36TBから64TBに増えました。 今回のストレージの性能は前と比べて2倍しかありません。RAID-Zは1組でHDD 1本分のIOPSしか出ません。前は2組で2本分だったのが今回は4組なので4本分です。ミラーにすれば読み込み性能は24本分で12倍に
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 前述したように、故障したHDDを抱えて性能が低下したストレージとSun Fire T2000の組み合わせを、iSCSIのストレージを接続した別のサーバーに切り替える作業を1月26日に行いました。サーバーのハードウェアは以前紹介したものです。OSは、性能とZFSの安定運用の観点からSolaris 11のx86版を選択しました。 これでftp.jaist.ac.jpの性能が改善するかと思いきや、iSCSIのストレージの性能が低くかったため逆に悪化してしまいました。ストレージの性能が低かったのは、諸般の事情でiSCSIのボリュームを束ねてRAID-Z2を組んでいたからです
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. ftp.jaist.ac.jp/pub/のGoogleセーフブラウジングの判定が「疑わしくない」に変わり、Google Chromeがブロックしなくなったことを、4月8日の16時30分ごろに確認しました。前回述べたように、ftp.jaist.ac.jpからSourceForge.net (以下SourceForge)のミラーを切り離したのが功を奏しました。 ftp.jaist.ac.jpがGoogle Chromeに「この先のサイトには有害なプログラムがあります」とブロックされた理由は、以前からあるファイルがGoogleにマルウェアと判定されたことです。ftp.ja
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 先月上旬からGoogle Chromeでftp.jaist.ac.jp/pub/以下にアクセスすると、「この先のサイトには有害なプログラムがあります」と警告される状態が続いています。前回の記事を書いた時点では、Googleセーフブラウジングによる判定は「疑わしくない」だったので、待っていれば警告が解除されるだろうと思っていました。 ところが判定がいつの間にか「疑わしい」に変わり、待っても解除される見込みがないので、3月22日に解除のための手続きをしました。具体的には、Googleからマルウェアだとして示されたSourceForge.net配下の二つのファイルを確認の
数日前からGoogle Chromeでftp.jaist.ac.jpにアクセスすると、「この先のサイトには有害なプログラムがあります」と警告される状態になっています。本当に有害なプログラムがあるわけではありませんが、そう言われても仕方のない事情があります。 ftp.jaist.ac.jpがミラーしているSourceForge.netのコンテンツには、Windowsのバイナリファイルがたくさんあります。その中には、過去にマルウェア対策ソフトによってマルウェアと判定されたものがいくつもあります。また現時点(2015年3月11日23時45分)でマルウェアと判定されているファイルもあります。 これらはすべてfalse positiveで、本当にマルウェアだったことはありません。 しかし、見方によってはftp.jaist.ac.jpはたびたびマルウェアをホストしている危険なサイトに見えます。今回はG
今朝リリースされたCentOS 7へのアクセスが殺到しているため、昼過ぎからftp.jaist.ac.jpへの接続が困難になっています。14時過ぎにはロードアベレージが900を超えました。過去の例では、この辺で処理が詰まって応答しなくなるのでユーザーから見放してもらえるのですが、今回はロードアベレージが1000を超えても処理が継続しているため、負荷が下がらない状況となっています。 どうにもならないので、18時の段階でCentOS 7のディレクトリのパーミッションを落としました。アクセスすると403 Forbiddenになります。CentOS 7をダウンロードする際には以下のいずれかのミラーを使ってください。 http://ftp.iij.ad.jp/pub/linux/centos/7/ http://ftp.riken.jp/Linux/centos/7/ http://ftp.tsuk
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 空き容量の少ない状態で運用してはいけないことは、ZFSを運用する際の常識です。ファイルシステムに書き込むときにコピーオンライトするため、必ずコピーが行われます。空き容量に余裕がないと連続する空き領域を確保できず、書き込みが致命的に遅くなります。そして削除のときもメタデータのコピーが必要なので、空き容量が少ないと削除も致命的に遅くなります。空き領域が足りないのに削除が遅いので詰みます。 ZFSで使用量が90%を超えるのはかなり危険です。しかし、ftp.jaist.ac.jpのZFSの使用量は90%を超えても何の問題もなく、95%に達してもなお問題ありませんでした。書き
12月8日に行われた第九回カーネル/VM探検隊でftp.jaist.ac.jpに関する話をしてきました。主にUltraSPARC T1について話しました。わりと変わったアーキテクチャのCPUなので、この会に集まる低いレイヤーに興味がある人たちに楽しんでもらえると思いまして。でも、こんなマイナーなCPUの話題を選んだのに、次の発表者と話題がかぶってしまいました。次の方の話題がUltraSPARC T1のオープンソース版のOpenSPARC T1だったんですよ。これがカーネル/VM探検隊のおもしろいところですね。
圧縮レベル2と3では、bzip2よりずっと短い所要時間で高い圧縮率が得られています。興味深いのはレベル4で、所要時間が大きく増えたのに圧縮率が下がっています。xzはレベル4からLZ法の一致文字列を探すアルゴリズムが変わるので、これが裏目に出ているようです。 bzip2より2割以上高い圧縮率が得られるレベル7以上では、所要時間は5倍以上になります。ログファイルの圧縮方式が混ざるのは何かと面倒なので、5倍の所要時間でこの程度の圧縮率の差ではxzに変更する気にはなれないです。 圧縮率はそうでもないですが、xzの伸張速度の速さはとても魅力的です。デフォルトの圧縮率のファイルを伸張するのに、bzip2が1分22秒かかるのに対してxzは25秒しか掛かりません。ログを集計するときに伸張速度が3倍近く速いのはとても有利です。 もし圧縮方法を決め直せるならxzにするかもしれません。適宜レベルを調節してbzi
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 去年の年末にrsyncのアクセス数を減らす対策をした話を書くのを忘れていました。以前の分析で、rsyncはアクセス数のわりにストレージに大きな負荷を掛けていることがわかったので、アクセス数を減らす対策を取りました。 その際にmax connectionsを減らすとabuserが得をするだけで、行儀のよいユーザーが接続できなくなります。そこで別の対策を取りました。それが去年の12月に行った「rsync冬のBAN祭り」です。rsync daemonのログを調べて、いくつも同時に接続してくるIPアドレスをアクセス拒否リストに入れて、以下のようにrsync daemonのm
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. Linx Mintのミラーを再開しました。実は一か月くらい前に再開したのですが、なかなか気付いてもらえないものですね。ISOイメージはnocodecsだけです。リポジトリはLinux MintとLinux Mint Debianの両方をミラーしています。 完全なISOイメージの配布は違法なのでミラーしていません。必要なら海外からダウンロードしてください。 完全なISOイメージを配布できないのはlibdvdcssとw32/w64codecsが含まれているからです。libdvdcssの配布は不正競争防止法に触れるのでできません。w32/w64codecsに含まれているW
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog.
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 現在ftp.jaist.ac.jpはストレージの性能不足に悩まされています。ピーク時にストレージのI/Oが飽和して、スループットがやや低くなることがあります。ストレージは11本のHDDで組んだRAID-Z2を2組たばねて構成しています。読み込みのIOPSは、HDDが22本あるのに約600しか出ません。HDDのIOPSは約180出ているので、全体のIOPSはHDDの約3.6本分になります。 これはあくまでもキャッシュなしの性能です。読み込みのI/Oの98%はARCかL2ARCのいずれかにヒットするので、キャッシュ込みのIOPSは約30,000となります。最近はこれでも
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. cdimage.debian.org/cdimageのミラーを始めました。ミラー先はftp.jaist.ac.jp/pub/Linux/debian-cdimageです。このディレクトリには開発中のバージョンのISOイメージがあります。ミラー元には古いリリース版のISOイメージもありますが、容量の都合でミラーしていません。 商用のISPはcdimage.debian.orgとの帯域が細いところが多く、ISOイメージのダウンロードに時間が掛かります。ftp.jaist.ac.jpとcdimage.debian.orgは学術系の回線で結ばれていて平均で7MB/s弱出ます
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. mixiのサーバーOSの移行の話がブログ(mixiのサーバOS移行のお話、mixiのサーバOS移行のお話 - 前回補足&インストール編)で公開されました。移行先がFedora 17だったことについて否定的な見解を示す人が多いです。私ならこの選択はしませんが、真っ向から否定するほど合理性を欠く選択だったとは思っていません。 移行する前はmixiはFedora 8で運用していました。 Fedoraプロジェクトによるパッケージの更新が止まったあとは、長年自力でメンテナンスしています。mixiのLinuxシステムは、当初のFedora 8とは大きく異なるものになっているはず
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 先日の障害で、ARCミスしたI/OがHDDで処理できるIOPSを超えていることがわかりました。そこでZFSへのアクセスのうち、どんなARCミスがどれくらい発生しているかを調べてみました。使ったのはこのDTraceスクリプトです。プロセスとファイルシステムのオペレーション(vnode operation)ごとに、ARCミスとL2ARCミスの発生回数を100秒間計測します。12月12日の16:30にHDDの負荷の平均が81.7%のときにデータを取りました。 ARCのヒット率は平均で93%ですが、ARCミスは1秒当たり1,709回発生していました。そしてL2ARCミスは1
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 遅くなってしまいましたが、11月30日に起きたトラブルについて報告しておきます。11月30日の日中にftp.jaist.ac.jpの性能が激しく劣化する現象が起きました。 その日はJAISTの電源工事があって、電源が一系統ずつ一度切れることになっていました。SunFire T2000とHDDのエンクロージャーの電源は二重化してありましたが、SSDを収めたエンクロージャーは二重化していませんでした。つまり電源工事中に電源供給が絶たれることになります。 そこで電源が切れても問題が起きないように、前日の夜からSSDを切り離しました。SSDが使えないとZFSのL2ARCが使
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. FedoraやCentOSなどのRed Hat系のディストリビューションで、yumに速いミラーサーバーを自動的に選択させる方法として、fastestmirrorプラグインのインストールを勧めている記事がたくさんあります。しかし、これらのディストリビューションの最近のバージョンでは、最初からfastestmirrorプラグインがインストールされているのでその必要はありません。では何もしなくても速いミラーサーバーが使われるかというと、そんなことはありません。 fastestmirrorは必ずしも速いミラーサーバーを選択しません。yumはリポジトリの設定のmirrorli
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. ftp.jaist.ac.jpが提供しているのは、オープンソースソフトウェアのプロジェクトが提供しているコンテンツの複製、いわゆるミラーです。現在35のプロジェクトのコンテンツをミラーしています。一つのプロジェクトが複数のコンテンツを提供している場合があるので、ミラーの設定は52あります。ミラーの状態をあらわす表を見ると、どんな設定があるかわかります。 この表に一覧してあるのは、ミラーの設定ファイルの名前とそれぞれについてミラーが最後に完了した時刻です。プロジェクトごとにアカウントを作ってあって、基本的に各アカウントのcrontabで設定した時刻にミラーを実行してい
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. Twitterでミラーの要望を見掛けたので、pkgbeta.freebsd.orgのミラーを始めました。URLはhttp://ftp.jaist.ac.jp/pub/FreeBSD-pkgbeta/です。pkgbetaはFreeBSDの次世代のパッケージ管理システムpkgngの試験運用を行っているサイト…で合ってるんでしょうか。最近FreeBSDの情報を追っていないので、よくわからないままミラーしています。 pkgbetaのサーバーを提供しているのはデンマークの電話屋さんTDCです。研究教育機関ではないので、ftp.jaist.ac.jpからは商用のネットワーク経由
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. JAISTは最近までWIDEプロジェクトのネットワークとしかIPv6で接続していませんでした。今のftp.jaist.ac.jpのアドレスはWIDEプロジェクトのものです。ほとんどそういうケースはないはずなのですが、WIDEを経由するせいでIPv6でftp.jaist.ac.jpに接続できないとか、IPv6で接続すると遅いと言う声が聞こえてきていました。 そこでJAISTでIPv6のPI (Provider Independent)アドレスを取得して、SINETにもIPv6で接続しました。ftp.jaist.ac.jpにIPv6で接続できなかったり遅かったりしてIP
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. このMozilla.orgのブログ記事によると、Firefoxの配布を従来のミラーネットワークからCDNに切り替えたとのことです。CDNのIPアドレスを調べたところEdgeCast Networksのものでした。Firefox 14のリリースのときに実験したところ、ダウンロード数に対するインストール数の割合がCDNのほうが高かったので、切り替えることにしたそうです。 Mozilla.orgのミラーネットワークでは、ダウンロードのリクエストに対して必ずしも速いミラーサーバーが割り当てられるわけではありません。遅いミラーサーバーを割り当てられたユーザは、ダウンロードをや
前回Firefox 12がリリースされたときに、翌日未明に自動更新が止まっていて、Ubuntu 12.04のリリースとぶつからずに残念だったという話をしました。ところが先日のFirefox 13でもリリースの翌日4時に自動更新がピタっと止まりました。 中の人のつぶやきによると、最近のバージョンの自動更新は、新しいバージョンがある程度行き渡ったら一度止めて、新しいバージョンから届いたクラッシュレポートを解析するとのことです。前回自動更新が止まったのも、Ubuntu 12.04とぶつかったからではなく、このためでしょうね。
日本最強の看板を下ろしたミラーサーバftp.jaist.ac.jpの管理者の一人が、 このサーバにまつわるよしなしごとを語ります。 English versions of some posts on another blog. 5月8日にApache OpenOffice 3.4がリリースされました。OracleからOpenOffice.orgのソースコードがASFに寄贈されてから、Apache Licenseによる最初のリリースになります。これがどれくらいダウンロードされたか調べてみました。 Apache OpenOfficeの配布方法には紆余曲折ありました。最初はApacheのミラーサーバーで配布する予定でした。OpenOfficeが入ると容量や帯域の要求がずっと厳しくなるので、OpenOfficeを除いてミラーする方法も用意されていました。ところがsourceforge.netが配布
次のページ
このページを最初にブックマークしてみませんか?
『ftp-adminの憂鬱』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く