タグ

MapReduceとHadoopに関するkoroharoのブックマーク (4)

  • 「Hadoopの時代は終わった」の意味を正しく理解する - 科学と非科学の迷宮

    Hadoopの時代は終わった、という言説をたまに見かけるようになりました。 もちろん終わってなどいません。しかし、Hadoopとその取り巻く環境が変化したのは事実です。 記事では、この変化が何なのかを明らかにし、その上で、なぜHadoopの時代は終わったという主張が実態を正しく表していないのかを説明していきます。 DISCLAIMER 私はHadoopを中心としたデータ基盤を取り扱うベンダー、Clouderaの社員です。 中立的に書くよう努めますが、所属組織によって発生するバイアスの完全な排除を保証することはできません。 以上をご了承の上、読み進めてください。 要約 データ基盤は、Hadoopの登場により非常に安価となり、今まででは不可能だった大量のデータを取り扱えるようになりました。 Hadoopは、NoSQLブームの中、処理エンジンであるMapReduceとストレージであるHDFSが

    「Hadoopの時代は終わった」の意味を正しく理解する - 科学と非科学の迷宮
  • 「Hadoopは低遅延に向かう」、米クラウデラのアワダラーCTO

    SQLを使ったクエリー処理を低遅延で実行できる『Impala』を、2013年に『Hadoop』のディストリビューションに追加する」――。Hadoopのディストリビューションを販売する米クラウデラのアメル・アワダラーCTO(最高技術責任者、写真)は2012年11月7日、東京都内で開催した「Cloudera World Tokyo」で講演し、同社の製品ロードマップなどについて解説した。 Cloudera World Tokyoは、クラウデラが日で初めて開催する自社カンファレンスである。米社の共同創業者でありCTOを務めるアワダラー氏が基調講演に立った。クラウデラは2013年に、Hadoopディストリビューション「Cloudera’s Distribution including Apache Hadoop(CDH)」の次期バージョン「CDH 5」をリリースする予定。CDH 5には、SQL

    「Hadoopは低遅延に向かう」、米クラウデラのアワダラーCTO
  • 業務系処理の分散処理の実行基盤について(Asakusa0.2.6) - 急がば回れ、選ぶなら近道

    Asakusa supports for the multi-clusterというお話で、多分解説がいるので書いておく。公式に書くものではない、という意見も強いので、ここで書く。先日のSIGMOD日支部のMtgでも発表した内容ともかぶりますが。 具体的にはここで http://asakusafw.s3.amazonaws.com/documents/0.2/release/ja/html/yaess/multi-dispatch.html いろいろ細かい内容は以下を参照で。 「AsakusaFW0.2.6の見どころ」 http://blog.goo.ne.jp/hishidama/e/2ba82d5ad404000de52d1a4029eb7346 まず、前提として現在のAsakusaは業務処理のバッチ処理、特に非同期処理を対象している。その上で実際に使われているし、SIも行われている。

    業務系処理の分散処理の実行基盤について(Asakusa0.2.6) - 急がば回れ、選ぶなら近道
    koroharo
    koroharo 2012/06/13
    『 分散環境が普通に使 われるようになってくると、ある程度「透過的 に」分散環境と単独環境を意識せずに利用する ことが必要になってくる』
  • Inside of Asakusa DSL

    2. 講演者について  荒川 傑 (@ashigeru) Ashigel Compilerの中の人 Asakusa DSLのデザ゗ンも担当 株式会社グルージェント開発部所属 2010年9月より出向中 普段の仕事 研究: コンパ゗ラ、開発環境 調査: Google App Engineなど 教育: 授業設計、教材開発 Asakusa DSLの内部 2 3. 日のテーマ  第一部: Asakusa DSLの設計思想 どんな言語か、何を考えて作ったのか  第二部: Asakusa DSLのセマンテゖクス Hadoopとどのように関連するか  第三部: コンパ゗ラのコード生成 どのようなコードを生成しているか  第四部: コンパ゗ラの最適化手法 どのような最適化があるか Asakusa DSLの内部 3 4. 日の内容  触れること  DSLの位置づけ 

    Inside of Asakusa DSL
  • 1