タグ

HadoopとHBaseに関するkimutanskのブックマーク (6)

  • 第6回 Hiveでボトルネックとなってきたメタデータ、HBaseを使ってレイテンシの改善に挑む ―「Hadoop Summit 2016 San Jose」から | gihyo.jp

    IT Cutting Edge ─世界を変えるテクノロジの最前線 第6回Hiveでボトルネックとなってきたメタデータ、HBaseを使ってレイテンシの改善に挑む ―「Hadoop Summit 2016 San Jose」から 2016年6/28~6/30(米国時間)の3日間に渡って米サンノゼで開催された「Hadoop Summit 2016 San Jose」(⁠主催: Hortornworks/Yahoo!)では、2016年のHadoopトレンドを紹介する数多くの技術/事例セッションが行われました。稿ではそのひとつ、Hortonwokrsによるセッション「hive HBase Metastore - Improving Hive with a Big Data Metadata Storage」をもとに、HiveのメタデータをHBaseでストアすることでHiveの低レイテンシ化を図る技

    第6回 Hiveでボトルネックとなってきたメタデータ、HBaseを使ってレイテンシの改善に挑む ―「Hadoop Summit 2016 San Jose」から | gihyo.jp
    kimutansk
    kimutansk 2016/07/20
    ボトルネックになるのはわかりますが、これを果たしてHBaseでやる必要性があったのか。Hadoopファミリーで統一しようという意図はわかるのですが・・・
  • HBase 0.98でのファイル配置(HDFS)

    3日目です。 HBaseのバイブルとなっている、オライリーから出版されている書籍、HBase。(通称馬)。個人的には象よりも愛用している(せざるを得ない)素晴らしいですが、出版されてから2年が過ぎ、現在のバージョンとは違っているところも増えてきました。 馬2版発売決定? 幸いな事に、現在第2版が執筆中のようで、O’Reillyのサイトによると来年5月ぐらいに発売される予定とのこと。(ちなみに、Hadoop 4版(象)も来年の春とのことで、こちらは既に先行発売されています。Apache Sparkのチャプターも追加されていました)。日語版が楽しみですね。 しかし悠然と待ってはいられないので、HBase 0.98.1 を用いてHBaseのルートディレクトリ以下の情報をまとめてみました。(馬のP.343付近に記載されているものと同じです)。出版されるまでの短い期間は役立つかもしれま

    HBase 0.98でのファイル配置(HDFS)
    kimutansk
    kimutansk 2014/12/04
    カラム部分などの基本構成は変わっていませんが、ディレクトリ構成は更新されているというわけですかね。
  • GitHub - sechiro/zbx_hadoop_monitor

    You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

    GitHub - sechiro/zbx_hadoop_monitor
    kimutansk
    kimutansk 2013/04/19
    ZabbixでHadoopのメトリクスを取得するための外部スクリプト、ですか。これはすごい。
  • Near Real-time Processing Over Hadoop and HBase

    From MapReduce to realtime This post covers much of the Near-Realtime Processing Over HBase talk I’m giving at ApacheCon NA 2013 in blog form. It also draws from the Hadoop, HBase, and Healthcare talk from StrataConf/Hadoop World 2012. The first significant use of Hadoop at Cerner came in building search indexes for patient charts. While creation of simple search indexes is almost commoditized, we

    Near Real-time Processing Over Hadoop and HBase
    kimutansk
    kimutansk 2013/04/01
    HBaseを使うことでStormのリアルタイムレイヤとHadoopのバッチレイヤを結合している事例ですか。ふむむ
  • 「PG(NoSQL)」のブログ記事一覧-ひしだまの変更履歴

    ひしだまHPの更新履歴。 主にTRPGリプレイの元ネタ集、プログラミング技術メモと自作ソフト、好きなゲーム音楽です。 HBase勉強会(第三回)に参加させていただきましたので、そのメモです。 Togetter: Hbase勉強会(第三回) #hbaseworkshop 今回のテーマはOS・ハードウェア・ネットワーク。自分の苦手分野ばっかりですな(得意分野を聞かれても答えに窮するが)(爆) 最初に軽く@tatsuya6502さんからHBaseが公開レビュー中という話とHBaseブックの日語訳が2011/5/2にあしたのオープンソース研究所で公開されたというお話。 まずはClouderaの@shiumachiさんからHBase向けハードウェアのポイントについて。 どこがボトルネックになるか?という点について、HadoopがI/Oインテンシブ(ディスク・ネットワークが重要)で、HDFS上で

    「PG(NoSQL)」のブログ記事一覧-ひしだまの変更履歴
    kimutansk
    kimutansk 2012/11/22
    とりあえずいろいろ情報につながりますねぇ
  • Facebook's HBase Backups - StampedeCon 2012

    At StampedeCon 2012 in St. Louis, Pritam Damania presents: Reliable backup and recovery is one of the main requirements for any enterprise grade application. HBase has been very well embraced by enterprises needing random, real-time read/write access with huge volumes of data and ease of scalability. As such, they are looking for backup solutions that are reliable, easy to use, and can co-exist wi

    Facebook's HBase Backups - StampedeCon 2012
    kimutansk
    kimutansk 2012/09/11
    Facebookのバックアップ方式。 ・・・図だけだと詳細はわかりませんが、イメージは何となくわかります。
  • 1