Treasure Data, Inc. | Finding Gems in Your Big Data
CREATE THE CONNECTION Do more than capture and analyze customer signals. Act on them. Customer Data Cloud unites operations, service, sales, and marketing teams around the same unified customer profiles. When every department has the data and insights they need, they can work together to create connected customer experiences and improve business value. Schedule Demo Watch Video
Hadoop Combinerメモ(Hishidama's Hadoop Combiner Memo)
HadoopのCombinerクラス（集約関数）について。 （combineは「コンバイン」と読むが、combinerは「コンバイナー」でいいのかな） Combinerの概要 CombinerはMapperの出力結果を（Reducerに渡す前に）中間集計するもの。 Combinerの目的は、“Mapperの出力レコードが多くなってバッファーに入り切らなくなった際に、（Reducerと同様の）集計を行ってレコード数を減らす”というもの。 したがって、（MapperやReducerには全データが必ず渡されるが、）Combinerには全てのレコードが渡されるとは限らない。 （Combinerが常に呼ばれるとも限らないし、同一キーであってもMapper出力の一部分しか渡ってこないこともある（というか中間集計なので、一部分しか来ないのが普通と考えるべき？）） Mapper出力がメモリー上のバッファー
勉強会発表「プログラマのためのHadoop入門」 - 科学と非科学の迷宮
id:kaigai の主催する勉強会で発表してきました。 Hadoop for programmerView more presentations from shiumachi. 答えられなかった質問 Shuffleフェーズって、ソートをどういう仕組みでやってるの？ データ全部をなめてるの？ Partitionerというクラスでデータを振り分けてる。タスクごとは独立してるのでデータをまたがってアクセスすることはないと思う。でも細かいことはちょっとわからない。 Map中にデータ追加したらどうなるのか？ さすがに扱うデータは最初に決めていると思うが、やったことないのでわからない。 Streamingって具体的にどんな処理してるの？ jarファイルは投げてるけど、実行時に使うスクリプトはどうやって投げてるのかわからない。 あとで調べときます。 今の世の中に出てるHadoop本って構築とか運用の話
NTTデータのHadoop報告書がすごかった - 科学と非科学の迷宮
業界トップ のエンタープライズ Hadoop 企業 Cloudera に入社しました http://www.cloudera.co.jp/ 今年の6月に、「平成２１年度 産学連携ソフトウェア工学実践事業報告書」というドキュメント群が経産省から公表されました。 そのうちの一つに、NTTデータに委託されたHadoopに関する実証実験の報告書がありましたので、今更ながら読んでみることにしました。 Hadoop界隈の人はもうみんなとっくに読んでるのかもしれませんけど。 http://www.meti.go.jp/policy/mono_info_service/joho/downloadfiles/2010software_research/clou_dist_software.pdf 「高信頼クラウド実現用ソフトウェア開発（分散制御処理技術等に係るデータセンター高信頼化に向けた実証事業）」という
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
