タグ

hadoopとblogに関するwasaiのブックマーク (3)

  • Hadoop完全分散モードが動かなくてハマったところ4選 - kj-ki’s blog

    前エントリの完全分散モードでの動作ですが,実はすんなりとは行かず,何日も苦しみました. ググっては試し,ググっては試し,の繰り返し... やっとまともに動くようになり,振り返ってみるとショボいミスもありましたが, これ以上犠牲者が増えないように自分がハマったところを書いておきたいと思います. Reduceが途中で止まる or ものすごく時間が掛かる 一番悩んだのが,これ. datanodeを複数にすると発症することが多かった. なんと原因は/etc/hostsにあり,ホスト名とドメイン名を書いておかなければなかった. hadoop0をMaster,hadoop1以降をWorkerとすると, # ×:localhostに記述があると,うまくいかない 127.0.0.1 hadoop1 localhost.localdomain localhost # ×:問題なさそうだが,ホスト名しか書かれ

    Hadoop完全分散モードが動かなくてハマったところ4選 - kj-ki’s blog
    wasai
    wasai 2010/12/14
    あとで読んでおく
  • 「第1回 MongoDB JP & CouchDB JP 合同勉強会 in Tokyo」を開催してきました! - doryokujin's blog

    こんにちは、@doryokujinです。日は12月12日(日)行われました「第1回 MongoDB JP & CouchDB JP 合同勉強会 in Tokyo」の報告をします。当日は忙しい時期にも関わらずたくさんの人に参加していただきました。会場準備で色々を手間取ってしまいましたが、会場提供者のニフティさんと参加者の皆様の暖かいご協力もあって無事に勉強会を終えることができました。どうもありがとうございました!また、当日はgihyo.jpさんの協力のもと、Ustream配信も行いました。このUstream動画と共に勉強会報告の方をgihyo.jpさんの方にも書かせていただく予定ですのでぜひともそちらの方も宜しくお願いします。今回の勉強会のツイートがまとめられたTogetter:第1回 MongoDB JP & CouchDB JP 合同勉強会 in Tokyoもなかなかが臨場感があって面

    「第1回 MongoDB JP & CouchDB JP 合同勉強会 in Tokyo」を開催してきました! - doryokujin's blog
  • インフラエンジニアのためのHadoop情報 CDH2のアップデート:So-net Developer Blog:So-netブログ

    Cloudera版のCDH2パッケージは、不定期にマイナーバージョンアップをしているようです。 ここでは、CDH2のバージョンアップ方法について書いておきます。 但し、HDFSのレイアウト変更を伴うようなメジャーバージョンのアップについては、それぞれ の版ごとに注意事項があるはずなので、それらについてはここでは触れません。 Hadoopのアップデートで気をつけなければいけない点は、以下のとおり。 複数ノードで運用中、1台づつアップグレードすることができません。たとえマイナーバージョンアップといえども、NameNodeとDataNodeの間でバージョン番号のチェックが行われて、アップデートしたノードは古いバージョン のクラスタに登録できないからです。 もう一点は、一度新しいバージョンでサービスを起動すると、たとえHadoopサービスを前の バージョンに戻しても、起動しなくなります。新しいバー

    wasai
    wasai 2010/11/17
    この辺は詳しくないのでメモ
  • 1