タグ

2013年8月12日のブックマーク (7件)

  • サーバー性能分析ツール「zPerfmon」、米Zyngaが公開 | OSDN Magazine

    ソーシャルゲームサービスを提供する米Zyngaは8月9日、自社が利用しているサーバー性能モニタリングツール「zPerfmon」をオープンソースで公開した。ライセンスはApache License 2.0。1台のマシンで数千台のサーバーのデータを収集・分析できるという。 zPerfmonは、Zyngaが運用環境にある番サーバーの性能を調べる目的で開発したツール。ゲームやサービスが増えるにつれて性能への潜在的問題も増えており、これを効率よくモニタリング・管理するために開発した。開発チームによると同社ではzPerfmonを利用して一日に約150ギガバイト、データベース内で1億行にも上るのデータを処理し、さまざまな方法で活用されているという。 zPerfmonは、対象サーバー上で動作するクライアントと、収集されたデータのETL(抽出/加工/書き出し)や保存を行うサーバー側の処理エンジンで構成され

    サーバー性能分析ツール「zPerfmon」、米Zyngaが公開 | OSDN Magazine
    yass
    yass 2013/08/12
    "対象サーバー上で動作するクライアントと、収集されたデータのETL(抽出/加工/書き出し)や保存を行うサーバー側の処理エンジンで構成される / データを視覚化したり、相関分析を行った結果などもグラフィカルに閲覧"
  • Schema evolution in Avro, Protocol Buffers and Thrift — Martin Kleppmann’s blog

    Schema evolution in Avro, Protocol Buffers and Thrift Published by Martin Kleppmann on 05 Dec 2012. So you have some data that you want to store in a file or send over the network. You may find yourself going through several phases of evolution: Using your programming language’s built-in serialization, such as Java serialization, Ruby’s marshal, or Python’s pickle. Or maybe you even invent your ow

    yass
    yass 2013/08/12
    " I would like to explore how Protocol Buffers, Avro and Thrift actually encode data into bytes — and this will also help explain how each of them deals with schema changes. "
  • Cloudera Blog

    The ongoing progress in Artificial Intelligence is constantly expanding the realms of possibility, revolutionizing industries and societies on a global scale. The release of LLMs surged by 136% in 2023 compared to 2022, and this upward trend is projected to continue in 2024. Today, 44% of organizations are experimenting with generative AI, with 10% having […] Read blog post

    Cloudera Blog
    yass
    yass 2013/08/12
    "Since all the values in a given column have the same type, generic compression tends to work better and type-specific compression can be applied. / Self-tuning dictionary encoding / Dynamic Bit-Packing RLE-encoding"
  • マルチコア時代のプログラマは関数脳になろう〜Java8のススメ〜 - Tech-Sketch

    CPUのクロックアップに限界が訪れ、マルチコア化することで処理性能向上を目指す時代になりました。これからのプログラマには、マルチコアで処理性能が向上するプログラム=マルチスレッドで並列処理が可能なプログラムを書く能力が必要になります。今回は「関数型」でプログラムを書くことによって、いとも簡単に並列化ができることを実例を元に解説します。 関数型プログラミングと並列処理 「関数型でプログラムを書くことで簡単に並列化できる」と書きましたが、そもそもここで言う「関数」とは何なのでしょうか? 関数型プログラミングの特徴 関数型プログラミングの「関数」を理解するためには、数学における「関数」を想像するとわかりやすいでしょう。 例えば三角関数を用いた y=cos(x) という式を考えてみます。この式に入力値 x=0 を与えた場合、いつでも必ず結果は y=1 になります。x= π/3 の場合は y =

    yass
    yass 2013/08/12
    "関数型プログラミングってなんだか面倒で難しそうですが、大きなメリットがあります。「処理が簡潔になり共通化やテストしやすいこと」や「並列化しやすいこと」などです。"
  • 見せてもらおうか、IntelのAES-NIの性能とやらを 〜OpenSSLでベンチしてみた〜 - ..たれろぐ..

    AES-NI の乗ってるマシンが使えたので OpenSSL でベンチマークしてみた。 結果:AES-NI なし 80〜90MB/s AES-NI あり 500〜530MB/s 「通常の5倍のスピードで処理してます!」「圧倒的じゃないか、我が軍は」 アクセラレーション命令の効果ってすごいねw 環境 パッケージ openssl-1.0.0-20.el6_2.3.x86_64 OpenSSL 1.0.0-fips 29 Mar 2010 built on: Wed Mar 28 01:11:34 BST 2012 options:bn(64,64) md2(int) rc4(16x,int) des(idx,cisc,16,int) aes(partial) blowfish(idx) compiler: gcc -fPIC -DOPENSSL_PIC -DZLIB -DOPENSSL_THRE

    見せてもらおうか、IntelのAES-NIの性能とやらを 〜OpenSSLでベンチしてみた〜 - ..たれろぐ..
    yass
    yass 2013/08/12
    "AES-NI の乗ってるマシンが使えたので OpenSSL でベンチマークしてみた。 結果:AES-NI なし 80~90MB/s AES-NI あり 500~530MB/s"
  • RabbitMQ 3.1の導入とCluster構成を検証する

    RabbitMQ 3.1の導入と冗長化の検証をしたのでメモ。 検証のための構成はフロントのAPサーバー、RabbitMQが動作するキューサーバー、ワーカーそれぞれ二台づつ。キューサーバーが片方死んでも全体が動作し続けられる事、両方がダウンしたとしてもデータは損失しない事が確認できれば良い。要するに単一障害点にならないようにRabbitMQを使いたい。 サーバーの準備 仮想マシン6台はVagrantを使えば一発で用意できる、メモリ16GB積んでてよかった。ホスト名を後でいじるとrabbitmqctlで停止・再起動がうまくいかなくなった。ホスト名周りはEC2で使う時に面倒な事になりそうだ。 各サーバーの /etc/hosts にrabbit1とrabbit2は追加しておく。 RabbitMQ 3.1 のインストール 起動確認 vagrant@rabbit1:~$ sudo rabbitmq-s

    yass
    yass 2013/08/12
    "キューサーバーが片方死んでも全体が動作し続けられる事、両方がダウンしたとしてもデータは損失しない事が確認できれば良い。要するに単一障害点にならないようにRabbitMQを使いたい。"
  • Googleの検索結果リンクページはブラウザ毎に異なる - このブログはURLが変更になりました

    まずはこちらをご覧ください。 Google先生の検索結果リンクが予想以上に作り込まれていた件 一部引用 まとめ (略) Google先生の検索ページはhttpsでも遷移先のhttpページにRefererを送信しています。 検索結果のリンクは302 FoundのRedirect処理をせずに、200 OKのhtmlを返します。 200 OKのhtmlページでは来の遷移先ページを読み込む処理が書かれていて、200 OKのURLから遷移したようにRefererを送信しています。ただしRefererの検索Queryパラメータのq=は予め削除されています。 (略) なるほどー。 200 OKのページでwindow.location.replace()を使うことでブラウザのhistory遷移でも問題が出ないようにしてるのねと関心したのだが、実はブラウザごとに異なるとの情報を@dancerj先生から教え

    Googleの検索結果リンクページはブラウザ毎に異なる - このブログはURLが変更になりました
    yass
    yass 2013/08/12
    " ブラウザ毎にバグがあってそれぞれ違う挙動してると思うのでそこら辺も味わうべき / ほうほう。ということでいくつかのUserAgentを送ってみてレスポンスを確認してみたところ、以下の3種類を確認できた。"