はてなブックマーク

Cloudera Manager Advent Calendar 2015の7日目です。 意外と知られていない（気がする）機能のひとつに、ログ検索があります。これは、Cloudera Manager（以下CM）で管理しているすべてのノードのすべてのプロセスに対して横断的に検索を実行できる優れものですので、本ポストで紹介したいと思います。 参考ドキュメント: Logs http://www.cloudera.com/content/www/en-us/documentation/enterprise/latest/topics/cm_dg_logs.html どんなときに横断的に検索したいか クラスタのトラブルシューティングをしていると、あるブロックが「いつ」、「どのファイル」に紐付いて作成され、「どのデータノード」に」いつ」複製されたのか、を追いかけたいことがままあります。あるいは、「ジョ

Cloudera Manager Advent Calendar 2015の4日目です。 いまだにHDFSはSPOFガー！という方がいます（本当にいる）。NameNodeのHAはもう3年以上も前に実装されており、本番環境で当たり前のように利用されています。 HA構成への移行はCloudera Managerを使えば簡単です。HA移行ウィザードは美しくシンプルなので、ここで画面ショットと共にで手順を紹介しておきたいと思います。Cloudera Manager 5.5のUIですが、5系であればさほど変わりありません。 準備 ZooKeeperが起動していること（3台以上の奇数台） 以上です。本番環境での要件を考慮する場合には、ディスクの分離など確認が必須ですが、HAを組むだけであればマスタが3台ありZooKeeperが起動していれば準備完了です。もちろん、ワーカノードは別に走っていることを前提

Cloudera Manager Advent Calendar 2015の一日目です。 Cloudera Manager（以下CM）はHadoopクラスタのインストール、管理を容易にしてくれるアプリケーションです。アーキテクチャは以下のとおり、CM ServerとAgentが通信し合う構成になっています。 CMを使えば、10ノードだろうが1000ノードだろうが、Apache KafkaだろうがApache Sparkをインストールしようが、すべてウィザードを通じてクラスタを構築することが可能です。クラスタの構築後は、core-site.xmlやhdfs-site.xmlなど必要な設定の配布、JAVA_HOMEなどの環境変数の設定をすべてCMが行ってくれます。また、収集したメトリクスをベースにチャートを表示する機能もあり、運用効率が格段にあがるのが特徴です。UIがほぼすべて日本語化されてい

CDH 5.4 から導入された、Sensitive Data Redaction (機密データのマスキング) 機能を紹介します。 できること Hadoopクラスタのログファイル、Hive/Impalaクエリに含まれる任意の機密データのマスキングが可能です。 必要なもの CDH 5.4 / Cloudera Manager 5.4 手順 Cloudera Managerにログインし、HDFSサービスを選択します。 2. HDFSの設定画面で、「redaction」で検索します。 3. デフォルトでは「クレジットカード情報」、「社会保障番号」、「ホスト名」、「メールアドレス」のマスキングテンプレートが用意されています。カスタムのマスキングを定義することも可能です。ここではクレジットカード情報をマスキングします。 4. 設定画面内で、マスキングがどのように動作するのか、テストすることができます。

YARNでMapReduceジョブが失敗したとき、往々にして各NodeManagerで実行されたタスクのログを確認する必要があります。数ノードクラスタであればそれほど苦になりませんが、数十、数百ノード以上のクラスタにおいてすべてのログを収集するのは困難です。トラブルシューティングする前に、必要なログを集めるために悩まなければなりません。 Clouderaのサポートチームでは、YARNアプリケーションが失敗した際の解析のために、YARNサービスのログの他に、Cloudera Manager(CM)が提供している「YARNアプリケーション診断データの収集」機能を使ってお客様から一括でログを提供頂いています。GUIから操作可能なので、簡単に必要なログを収集でき、お客様にとってもサポートチームにとっても非常に有用な機能です。これは、Cloudera Managerを使用していれば誰でも（Cloud

ちょっと遅刻してしまったため、クラウディアン後藤さんの途中からのメモとなりますが、内容はこんな感じでした（特に断りはなかったと思うのですべてのメモを公開していますが、削除したほうがよい内容があればご指摘ください）。 クラウディアン株式会社 後藤氏 日常を支える道具たち 場所を選ばすチームをまたいでコミュニケーションできる環境が重要 Salesforce CRM Bugzilla (Bug, QA, ER) Github AWS（再現環境） Skype 再現テスト環境 自社ラボ環境 物理HW: 性能がシビアな場合 数に限りあり AWC EC2 Cloud Formation テンプレートを用意しておき短時間でクラスタ構築 3node, 6, 9, or more トラブルシューティング Linux上の分散Javaアプリケーション 分散データベース、分散処理 ネットワーク、プロトコル系、ストレ