Hue - The Apache Hadoop UI - Hadoop Facile - Examples Tutoriels Hadoop, HBase, Hive, Impala, Oozie, Pig, Sqoop and Solr — チュートリアル：Impala用の優れたファイルフォーマットとHadoopの高速なSQL
Impalaのファイルフォーマット 最適なファイルフォーマットを使用することは、優れたパフォーマンスを得るためには極めて重要です。これは、Impala アプリケーション（英語）でJSONがサポートされていない理由の一つです。実際に、1レコードでさえ全てのテキストレコードの構文解析や取得をすることは、パフォーマンスにひどいダメージを与えます。Impalaでは別の一連のフォーマットを推奨しています。 ここではjsonデータを含んだAvroフォーマットのHiveテーブルと、新しいParquetフォーマットのテーブルをどのようにして作成するのかを紹介しています。HadoopチュートリアルシリーズのEpisode 2 of the Season 2 （英語）の同じYelpデータを使用しています。 Avro 最初の手順はPigスクリプトの支援によりデータをJSONに変換することです。Pig Edito
Hue - Hadoop User Experience - The Apache Hadoop UI — Tutorial: Executing Hive or Impala Queries with Python
Tutorial: Executing Hive or Impala Queries with Python This post talks about Hue, a UI for making Apache Hadoop easier to use. Hue uses a various set of interfaces for communicating with the Hadoop components. This post describes how Hue is implementing the Apache HiveServer2 Thrift API for executing Hive queries and listing tables. The same interface can also be used for talking to Cloudera Impal
オライリーセミナー Hive入門 #oreilly0724
2013/07/24 に「『プログラミング Hive』 『Hadoop 第3版』刊行記念Hadoopセミナー」で発表した内容です。 http://connpass.com/event/2944/Read less
HiveQL SerDeメモ(Hishidama's Apache Hive SerDe Memo)
概要 HiveではSequenceFileでファイルを読み書きできるが、ファイル内の実データは1行が1つのTextとなる。 Textでなく自分で作ったWritableをデータにしたい場合に、HiveのSerDeを定義する。 SerDeはSerialize/Deserializeの略で、データを入出力できる形式に変換するクラスのこと。 SerDeを作るにはorg.apache.hadoop.hive.serde2.SerDeインターフェースを実装する。 そしてCREATE TABLEでSerDeクラスを指定する。 Writableクラス 一番最初に、データ保存に使うWritableクラスを作っておく。 今回は例としてWordCountのデータ（単語と単語数）を保持するWritableを用意してみた。 package sample.writable; import java.io.DataIn
1台構成のHadoopを30分で試してみる(CentOS + Cloudera)
(参考) Cloudera社のHadoopパッケージの情報 http://archive.cloudera.com/docs/ 必要なもの ・CentOS5かCentOS6のLinux環境1台(ここではCentOS5.6とCentOS6.0を使いました。CentOSの他バージョンや、Fedora、Redhat等でも大丈夫だと思います) ・インターネット接続 ・Sun社Javaパッケージ(パッケージファイルをインターネットから取得) ・Cloudera社のCDH3のHadoopパッケージ(yumでインターネットからインストール) 作業手順 0. 準備 0-1. Sun社Javaパッケージの取得 http://java.sun.com/javase/downloads/にて、 Java SE 6の[Download]ボタンを押して出る「Java SE Downloads」のページから必要なもの
Hadoopをより便利に使う！HiveでのMapReduceまとめ - Y's note
目次 Hiveとは Hiveの設定 HiveQL構文(DDL) DataBase/SCHEMAの作成 Database/SCHEMAの削除 Tableの作成 Tableの削除 Table名変更 Partition作成 Partitionの削除 Columnの変更 Columnの追加/置き換え TableのProperty変更 SerDe Propertyの追加 HiveQL構文(SQL) テーブル一覧表示 テーブルの内容を表示 基本的なSELECT文 WHERE句(条件指定) DISTINCT(重複削除) ORDER BY / SORT BY句(ソート) GROUP BY句(グループ化) HAVING句(グループ化後の条件) LIMIT句 JOIN(テーブル結合) 抽出カラムを正規表現で指定 UNION(結果の結合) SUBQUERY LOAD(データの読み込み) Hiveを使う 事前準備
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Cloudera Impala - Fast, Interactive Queries with Hadoop - DZone
GitHub - cloudera/hue: Open source SQL Query Assistant service for Databases/Warehouses
HiveとImpalaのおいしいとこ取り