タグ

ZooKeeperとPigに関するhohoho_ho2005のブックマーク (1)

  • ビッグデータを支える技術 - Qiita

    Hadoop 大規模な分散処理を支えるJavaフレームワーク HadoopはGoogleMapReduce、GFS(Google File System)の技術をベースとして作られた HadoopではMapReduceはそのまま「MapReduce(Hadoop/MapReduce)」、GFSは「HDFS(Hadoop Distributed File System)」という名前でそれぞれ開発・公開されている MapReduce データを「Map処理」、「Reduce処理」の2つの処理で処理するモデル 以下、Hadoop/MapReduceの機能 複数のマシン上にデータとデータを処理するためのプログラムモジュールを配置し、プログラムを並列実行する 複数マシン上で分散実行される処理の順序や優先度の制御 障害時の自動リカバリ 処理状況のステータス管理や監視機能 処理全体のパフォーマンスを向上

    ビッグデータを支える技術 - Qiita
  • 1