タグ

2013年12月8日のブックマーク (7件)

  • SSDの寿命をext4ファイルシステムの統計情報から推定する

    SSDを選定する場合には書き込み量の推定が重要です。 NAND Flashの各ブロックに書き換え回数の上限があるSSDでは書き込み総量に制限が存在します。 NAND Flash自体の書き換え回数上限は実装にどのような技術が使われているかにもよりますが数千回から10万回程度。HDDやRAMDISKではこの回数上限は事実上存在しません。 そのためSSDではファームウェアで各ブロックが均等に書き換えられるように工夫したり、外部に見せるより多い容量のNAND Flashを用意してブロックあたりの書き換え回数を減らしたり、不良ブロック発生時にもただちに影響がないようにしています。 このため、コンシューマ向けでは記載がないものもありますが、エンタープライズ向けSSDでは必ず総書き込み上限について記載があります。 適当にぐぐったIntelのSSD仕様の例: http://ark.intel.com/ja

    yass
    yass 2013/12/08
    " ext4では2009年に導入されたパッチでファイルシステムへの書き込み総量を記録する機能をもつようになりました。この情報はdumpe2fsで確認できます。以下はHDDの例ですが、出力中の Lifetime writes:というフィールドがそれ "
  • Docker ストレージドライバによる RHEL/CentOS 対応について

    Shin x blog Advent Calendar 2013 の 8 日目です。 これまで Docker を RHEL/CentOS で動かす際に懸案だったのは、AUFS への対応でした。RHEL/CentOS 6.x のカーネルは AUFS へ対応していないので、Docker を動かすには、AUFS 対応のカーネルを入れる必要がありました。 Docker 0.7 では、この対応としてストレージドライバという機構が採用されました。 ここでは、ストレージドライバによる RHEL/CentOS 対応について見てみます。 CentOS 6.5 で利用されているストレージドライバ Docker 0.7 で採用されたストレージドライバは、Docker コンテナが利用するファイルシステムを選択する機構です。これにより、AUFS 以外のファイルシステムを利用ことが可能になっています。0.7 では、a

    yass
    yass 2013/12/08
    "AUFS は、現在の Ubuntu カーネルでは非推奨となっていて、いずれは削除されるようです / lvm thin provisioning が採用されており、これが devicemapper ドライバとして実装います。これにより RHEL/CentOS でも Docker が利用できるように"
  • モニカジ京都に参加して、SensuとGraphiteの話をしました #monitoringcasual - ゆううきブログ

    Monitoring Casual Talk in Kyoto on Zusaar 先週のことだけど、モニカジ京都に参加した。 というか、主催者のid:shoichimasuharaさんとかいう人に雑に主催者に入れられた。 といってもなにもしてなくて、ただインターネットで暇そうな人間を勧誘しただけだった。 @moznion http://t.co/ssAvvYgjD1— ゆううき (@y_uuk1) 2013, 11月 2 当日のだいたいの雰囲気は モニカジin京都を開催しました #monitoringcasual - 桝原翔市的博客 に書いている通り。 shoichiさんが無限に営業活動して、人が集まってきてた。 フルスタックっぽいなと思った。 おつかれさまでした。 次回もよろしくおねがいいたします。 自分の発表 当日僕は、SensuとGraphiteの話をしつつ、ひたすら異常な努力をし

    モニカジ京都に参加して、SensuとGraphiteの話をしました #monitoringcasual - ゆううきブログ
    yass
    yass 2013/12/08
    " 本当はGraphiteとかSensuみたいな筋の良いツールが転がっていたのに、異常な努力を使ってRRDtoolでなんとかしようとしていて、とにかく盲目だったことを反省して、今回こういう発表をした。 "
  • HDFSが高速に?キャッシュメカニズムの追加

    日公開された HDFS-4949 のJIRAは、HDFSにインメモリキャッシュ機構を導入しようというものです。 Jiraに添付されているドキュメントより興味深い点を抜粋してみます:Centralized cache management 問題点1:複数ノードでのキャッシュの利用 HDFS上のデータの読み書きの際には、ディスクから読み出されたデータは、Linuxのカーネル内のページキャッシュ(原文ではBuffer cacheとなってます)にキャッシュされます。(これにより毎回ディスクアクセスを避けることが期待できます) しかし、ページキャッシュの情報はカーネルが持っており、ユーザーランドに公開されているわけではありません。つまり、上位のフレームワークの視点から見ると、タスクをどのノードに配置するかのために公開されているわけではないということです。(当たり前ですが、、) その結果、HDFSに

    HDFSが高速に?キャッシュメカニズムの追加
    yass
    yass 2013/12/08
    " HDFSにおいてはブロックの複製数が3だとすると、タスクが配置されるノードが異なる場合、3つのデータノードそれぞれのページキャッシュに 格納され、3倍のメモリが消費される可能性があります。"
  • 中堅SIerがPlay1系を導入した感想 | システムアーキテクトのごった煮

    <<7日目 / 9日目 >> Play framework 2.x Java and 1.x Advent Calendar 2013の8日目の @s_kozake です。 Play frameworkとの出会い 僕とPlay frameworkとの出会いは2011年の春ごろ。ちょうど生産性の高いWebフレームワークを探している時に出会いました。 その時の記事はこちら。 ちょうどその頃はBlogを書き始めたり、勉強会に参加し始めた頃で、Play frameworkの勉強会を開いたりしていました。 また、社内きっての大規模プロジェクトに参画した頃で、色々ドタバタしていました。 Play framework導入のきっかけ そのプロジェクトのサブシステムの一つに、インターネット外部公開するWebサイトがあり、Weblogic上で動作するWebアプリケーションとして機能実現することまでが決定してい

    中堅SIerがPlay1系を導入した感想 | システムアーキテクトのごった煮
    yass
    yass 2013/12/08
    " JQueryUIを多用したモックアップで画面設計を進めていたこともあり、JavaScriptとJSFの親和性のなさは致命的に感じました。/ サーバーメモリ上にUIツリーを持つフレームワーク思想と、JavaScriptは相性が悪すぎるんでしょうね "
  • JAWS-UG クラウド専業SIer(CIer)になってみた結果

    This document provides an overview of ZOZOTOWN, a large online fashion retailer in Japan. Some key points: 1. ZOZOTOWN is Japan's largest fashion e-commerce platform, offering over 1,300 brands and 7,900 styles. It has over 83 million product listings and introduces over 3,000 new products daily. 2. In addition to online shopping, it offers same-day delivery services and provides digital marketing

    JAWS-UG クラウド専業SIer(CIer)になってみた結果
    yass
    yass 2013/12/08
  • 2013年 Hadoop 運用ログ @ Treasure Data | Post Moratorium

    2013年 Hadoop 運用ログ @ Treasure Data Hadoop Advent Calendar 2013、5日目のエントリです。2日遅れてすいません! 細かいのは上げればキリが無いんだけど、誰かの役に立てばと思い Treasure Data でHadoopクラスタを運用してみたログ 2013年度版を公開してみます。 対象バージョン2013年には、ディストリビューションのアップグレードを5回ほど行いました。 CDH3u0CDH3u1CDH4.1.2CDH4.2.0CDH4.2.1メジャーアップグレードは複数バージョンを同時に走らせて問題が無いことを確認後、切り替えを行っています。しかしCDH3って既にEnd of Maintenanceなんですね、知らなかった。 運用体制約3名、年末には約8名程。約100社に向けてサービス運用をしていて、数分ジョブが刺さるだけでもサポートチ

    yass
    yass 2013/12/08
    " EBSは使っていません / Ubuntu 10.04をEC2で走らせると高負荷時に挙動不審になるという現象が多発していました。Instagram Engineeringでも報告されています。こちらは様々なバージョンを試して、現在はUbuntu 12 (ami-fbb2fc92) "