Hadoop on docker 後編 - White scenery @showyou, hatena
前回は既存のコードからHadoopのコンテナを動かすところまで書きましたが、今回はそれに手を加えて複数ノードで動くようにしました。 少し試行錯誤してたので、ソースだけ置いて要点だけ書いて行きます。 showyou/hadoop-docker at multinode · GitHub まずDockerのパッケージを作るのは、Dockerfileになります。なのでいつも共通の設定とか初期設定はここに書いて行きます。bootstrap.shは毎回起動する度に呼ばれるファイルになっています(ただしbootstrap.shは今回指定して読んでいるだけで、dockerの決まりでは無いと思います)。また今回はNameNode/ResourceManager側とDataNode/NodeManager側でディレクトリを分けました。 作っていった手順ですが、まずsequenceiq/hadoop-dock
Hadoop on docker 前編 - White scenery @showyou, hatena
後半書きました( Hadoop on docker 後編 - White scenery @showyou, hatena ) 書き忘れていましたが、この記事 Spark, SQL on Hadoop etc. Advent Calendar 2014 - Qiita の23日目になります。 はじめはPivotal社の商用SQL on HadoopであるHAWQの話でもしようかと思いましたが、先日掲載したスライドに大体書いているので読んで頂ければと思います。 今回はHadoop on Dockerについてでも話します。 最近はHadoopを動かすのにdockerを使う動きが出ています。 dockerで組み上げるメリットとしては、 1. VMに比べると速度が速い(と考えられる) 2. 各社配布しているVMと違いDockerfile辺りを見れば何やってるか理解できる 3. imageを管理すれ
Ferry | Big Data Development Environment Using Docker
Big Data Development Environment using Docker¶ Ferry lets you define, run, and deploy big data stacks on your local machine using Docker. Just define your application like this: { "backend":[ { "storage": { "personality":"hadoop", "instances":2, "layers":["hive"] } }], "connectors":[ {"personality":"hadoop-client"} ] } Then get started by typing ferry start hadoop. This will automatically create a
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
SequenceIq.com is for sale | HugeDomains
GitHub - sequenceiq/cloudbreak: Cloudbreak is a cloud agnostic Hadoop as a Service API. (Please use https://github.com/hortonworks/cloudbreak)
