タグ

stormとSummingbirdに関するkimutanskのブックマーク (2)

  • Getting Started with Scalding, Storm and Summingbird

    Scalding と Storm と Summingbird で始める Scala でデータ処理 Sep 6, 2104 at Scala Matsuri 2014 in Tokyo, Japan.

    Getting Started with Scalding, Storm and Summingbird
    kimutansk
    kimutansk 2014/09/10
    一度ページ見て難しかったので諦めましたが、もう一度きちんと確認してSummingbirdを扱えるようになっておきますか・・・
  • Hadoop/Storm の統合を実現する Twitter の SummingBird - Okapies' Archive

    Twitter が SummingBird を正式リリースして早二ヶ月。「日語の紹介記事がほとんど出てないな」と気付いたので、調査がてらまとめてみました。 SummingBird とは? MapReduce なプログラムを書くための Scala/Java ライブラリ。最大の特徴は、ひとたび SummingBird で書いたジョブは Hadoop でも Storm でも同じように実行できること。 SummingBird では、Hadoop を使う「バッチモード」と、Storm を使う「リアルタイムモード」に加えて、二つを同時に実行する「ハイブリッドモード」がある。ハイブリッドモードでは、ジョブの作者が特に配慮しなくても、バッチとリアルタイムの処理結果を自動的にマージできる。 ハイブリッドモードでは、同じジョブを Hadoop と Storm で同時に実行できるので、Hadoop の耐障害性

    Hadoop/Storm の統合を実現する Twitter の SummingBird - Okapies' Archive
    kimutansk
    kimutansk 2013/11/03
    端的に言うとラムダアーキテクチャを実現しやすくする共通IFなんですが、当然ながらStorm等個別FRWのフル機能は使えないので、そのあたりは考える必要がありそう
  • 1