タグ

ブックマーク / wazanova.jp (7)

  • ワザノバ | wazanova.jp

    Follow @WazanovaNewshttp://engineering.linkedin.com/data-streams/apache-samza-linkedins-real-time-stream-processing-framework LinkedInのエンジニアブログで、分散ストリームプロセッシングフレームワークであるApach Samzaをオープンソース化したことを紹介してます。 LinkedInのリアルタイムアーキテクチャはKafkaに支えられ、アクティビティデータ、運営KPI、サービスコールのトレース、ログデータ、アプリのメッセージなどの取得に利用されている。 Samzaが実現しているストリームプロセッシングによるアウトプットの取得はバッチよりもかなり短い処理が期待できるが、ハードウェアの障害や分割/分散された環境で実現することは大きなチャレンジであった。 Hado

    anoworl
    anoworl 2015/03/23
  • Googleのテスト自動化の進化 - ワザノバ | wazanova

    https://www.youtube.com/watch?v=6ZvCU0dht50 1 comment | 0 points | by WazanovaNews ■ comment by Jshiike | 約1時間前 Google Test Automation Conferenceが今年はSeattleで開催されたようです。その中で興味深いと感じた話題をいくつか拾ってみました。 1) 成長を続けるGoogle 会社の規模が大きくなり、歴史を重ねてくると、何事も非効率になりがちですが、Ankit Mehtaが紹介してくれた数字によると、Googleの開発ペースは依然として右肩あがりのようです。 コードのコミットは、1日3万チェックイン。約3秒に1回。グラフを目測した限りでは昨年から約20%増。 リリース数もこの1年でほぼ倍増。 2) テストクローラーを利用してのモバイル実機テストの

    anoworl
    anoworl 2014/10/30
  • Pinterestをスケールさせる中で学んだこと - ワザノバ | wazanova

    https://www.youtube.com/watch?v=jQNCuD_hxdQ 1 comment | 0 points | by WazanovaNews ■ comment by Jshiike | 約3時間前 PinterestのMarty Weinerによる goto; conference 2014の講演。 「webサイトどうやってつくるの?」という創業期から、現在に至るまで、段階的にテクノロジースタックがどう進化したか。 現在のPinterestのシステムアーキテクチャの全貌。 個別のテクノロジーの選択理由。 などを語った45分のビデオですが、goto; conferenceのサイトからスライドのPDFをダウンロード(初日の10:20のコマです。)できるので、そちらを見ていただいてもわかりやすいかと。 「サイトが落ちてしまうのである意味自然に学ぶことができてしまった。

    anoworl
    anoworl 2014/10/27
  • 急成長するサービスのサーバインフラ - ワザノバ | wazanova

    サービスを一から立ち上げる場合も、成功したサービスが更に拡大する場合も、いずれもスケールさせるのは一苦労ですが、今回は、Dropboxの初期の取組みと、Facebookの最近の動きを取り上げてみます。 まずは、DropboxのKevin Modzelewskiが、創業当初のサーバインフラの進化を時系列で紹介している講演から。 Dropboxのデータの特徴 書込みボリューム大: 通常のサービスはコンテンツをつくるより消費するボリュームが圧倒的に多いので、read/write比率が、100:1とか1000:1であるのが典型だが、Dropboxはユーザの全端末がコピーを持つ構造なので、その比率が約1:1になる。つまり、同じサーバに対して、他社よりも100倍、1000倍書込みの役割が大きくなる構造。 ACID特性の要件をしっかり守る必要がある。ユーザの情報を預かるのだから、原子性について、「大きな

    anoworl
    anoworl 2014/10/25
  • WebTorrent: サーバなしでPtoP接続を実現する - ワザノバ | wazanova

    https://github.com/feross/webtorrent 1 comment | 0 points | by WazanovaNews ■ comment by Jshiike | 約5時間前 昨年、「WebRTC: サーバのない世界でwebをつくり直す」で紹介したFeross Aboukhadijehは、手がけていたPeerCDNをYahoo!に売却したため、そのままYahoo!に入ったようですが、当時の「BitTorrrentをプラグインのないブラウザベースでつくろうと思っている。サーバがなく、トラックできないBitTorrentになる。」というアイデアは、そのままWebTorrentプロジェクトというかたちで継続しているようです。 そのFerossが、ハンガリーで開催されたCraftConf 2014での講演でWebTorrentの進捗についてアップデートしてくれて

    anoworl
    anoworl 2014/10/15
  • RubyとPythonの違いからガベージコレクタを理解する - ワザノバ | wazanova.jp

    http://patshaughnessy.net/2013/10/24/visualizing-garbage-collection-in-ruby-and-python Pat Shaughnessyが、ブタペストで開催されたRUPY2013でのプレゼンの前半を自らのブログで紹介しています。 ガベージコレクタは、「ゴミを集める」という行為だけでなく、「新しいオブジェクトのためにメモリをあてがう。」「不要なオブジェクトを見つける」「不要なオブジェクトからメモリを取り戻す。」という、人間の心臓が血液を浄化するような働きをしている。 この簡単なコードサンプルを見ると、RubyPythonの記述はよく似ているが、それぞれの言語の内部でのインプリの仕組みは違う。 1) Rubyのメモリ Rubyは、コードが実行される前に、数千のオブジェクトを先につくり、それをリンクされたfree listに置

    anoworl
    anoworl 2013/10/28
  • モニタリングツールEvernote版Graphiteをオープンソースとして提供 - ワザノバ | wazanova.jp

    http://blog.evernote.com/tech/2013/10/02/graphite-at-evernote-open-source-release/ EvernoteがGraphiteをオープンソースとして提供しました。 7月にエンジニアブログでも紹介されてますが、Evernoteのトラッフィクインフラ監視ツールの構成は、 システムパフォーマンスを計測するデーモンcollectdが全てのOSインスタンスからデータを収集。 Graphite Pluginを介して、数分間に800,000弱種類のデータをGraphiteサーバに送っている。 また、collectdのNotificationsとThresholdsを利用して想定外の数値の変動を検知できる。 OSとネットワーク機器の計測値を効率よく見るために、Graphite-webをカスタマイズしたダッシュボードをつくり、複数の指

    anoworl
    anoworl 2013/10/04
  • 1