In an era where artificial intelligence (AI) is reshaping enterprises across the globe—be it in healthcare, finance, or manufacturing—it’s hard to overstate the transformation that AI has had on businesses, regardless of industry or size. At Cloudera, we recognize the urgent need for bold steps to harness this potential and dramatically accelerate the time to […] Read blog post
AWS Summitに来ていたのですが、TLでは、Cloudera Searchが賑わってました。 ということで、軽くどんなものか読んだり調べたりしたメモを残しとこうかと。 英語力はあやしいので、おかしいとこがあったらツッコミを。 Cloudera Searchとは? CDH4.3に対応したCDHユーザ向けの検索システム(beta版)なのかな? CDHに統合された検索フレームワークなのかな? 基本はLucene/Solr 4.3でHadoopのペタバイトデータを検索することができるようになるみたいです。 どんな仕組み? 次のものを利用しているようです。(GithubのREADMEから。) 使ってるもの Apache Solr(4.3.0+α?) Apache Lucene(Solrつかってるからね) Apache SolrCloud(うーん、Solrに含まれるのに別に出してるのなんで?)
CDH3から始めてCDH4.1までアップグレードして利用し続けていますが、この過程でNameNodeの構成は変更せずに運用してきました。 当然、CDH4からの公式HA構成に関心はあったのですが、複数の更新を同時に行うと危ないとか、英語マニュアル読むのめんどくせー感からミドルレンジに距離を置いていたところに、もりす先生がトライしてくれて、乗るしかないビッグウェーブ到来。待つべきものは他人の検証とはよく言ったものですなぁ。 タイトルはNameNode構成の切り替え、となっていますが、これから新しくQJM HAで組む人にも役に立つ内容となっていますゆえ、私が血反吐を吐いてまとめた情報を是非ご覧くださいませ。 リンク CDH4.1におけるクォーラムベースジャーナリング Quorum-Journal Design CDH4.1オーバービュー Software Configuration for Qu
動かないという噂があったので試してみました。別なところではまりましたが、動いた気がします。なにげに完全分散環境でのHiveは初めてでした。なのと、特にHiveについてあまりまじめに調べていないので、こういう設定正しいかは定かではないです。metastoreはローカルのままとか。 とりあえず、exampleでresource managerにjobを投げられることを確認した状態で、hiveにクエリを投げると怒られました。 WARNING: org.apache.hadoop.metrics.jvm.EventCounter is deprecated. Please use org.apache.hadoop.log.metrics.EventCounter in all the log4j.properties files. Logging initialized using config
というわけで、 CDH3u2で初めてHiveを使おうとしたら、 環境まわり(というかほとんどpermission denied)で 何度かはまったので、整理しておく。 なお、CDH3u2自体のインストールは、、忘れた。 このくらいならば、ぐぐればたくさんヒットする。 以下、前提条件として、hdfsユーザで操作を行うものとする。 CDH3u2のhiveをインストールすれば、 hiveコマンドのパスなど、自動で通してくれるので、 後は環境まわりを整理すればよい。 とりあえず、hiveコマンドを実行すると、以下のようなエラーが出力される。 -bash-4.1$ hive Hive history file=/tmp/hdfs/hive_job_log_hdfs_201112070248_1529599074.txt Exception in thread "main" java.io.FileN
The CDH components, Cloudera Manager, and third parties use the ports listed in the tables that follow. Before you deploy CDH and Cloudera Manager, make sure these ports are open on each system. Download this guide Ports Used by Components of CDH3 Component Service Qualifier Port Protocol Access Requirement Configuration Comment
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く