Amazon EMRを整理してみた - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 背景・目的 Amazon ERMは使用したことありますが、どのような機能があるか仕様など細かいところを把握してないため整理します。 まとめ 以下の特徴があります。 ビッグデータアプリケーション、PBスケールのデータ分析をオンプレの半分以下のコストで高速に実行できます。 カスタマイズされたEC2クラスタ、EKS、Outposts、EMR Serverlessで実行するオプションを備えた、最新のOSSフレームワークを使用してアプリケーションを構築する。 パフォーマンスが最適化されたOSSのAPI五感バージョンでSpark、Hive、Pres
AWS認定Big Data勉強記 - 5: Amazon EMR - Qiita
YARN: Yet Another Resource Negotiator Resource Manager マスターサーバーで動く スレーブのリソースを管理 ジョブ管理はしない Node Manager スレーブサーバーで動く サーバーのリソースをRMに報告 サーバー上のコンテナの管理 Container スレーブのリソースが切り出されたもの NMによって起動 Application Master ジョブ全体を管理するコンテナ EMRにおいては、MapReduceやHiveやSparkへ計算資源を割り振ってくれる。共通のリソースを分割して扱ってくれる。 特徴と機能 EMRFS S3をHDFSのように扱える。 CPUとストレージの分離 S3の暗号化も対応 Consistent View 新しいオブジェクトのプット → Read-after-write consistency 上書きプット/
AWS Kinesis Streams + Spark Streamingでストリーム処理を試してみた - Qiita
はじめに 今後はストリーム処理の時代がくるはずです。たぶん。そんな気がします。 というわけで、適当なデータ発生を発生させて、Kinesis Streams＋Spark streamingでストリーム処理を体験してみました。 Spark 2.0.0 (EMRを利用） Kinesis Streamsとは 昔は単にKinesisと呼ばれていましたが、後からKinesis FirehoseとKinesis Analyticsが追加されたため、Kinesis３兄弟のうちの１人と呼ばれています。 大規模でスケール可能で、メッセージが一定時間保存されるPubSub型キューのことを指します。 つまり、データを発生させるProducer相当と、後段の処理であるConsumer相当を作成する必要があります。 Spark Streamingとは 大規模データ分散処理フレームワークのApache sparkのライ
AWSのEMRで分散クエリエンジンPrestoクラスタ作成→rubyから接続してS3の大量ファイル操作体験をしてみよう！ - Qiita
この記事はフロムスクラッチ Advent Calendar 2016の9日目の記事です。 筋トレ大好き！プログラミング大好き！ あれ？そうすると、、、 筋肉系カレンダーにも投稿しないと、自称筋肉プログラマー失格なのでは！！ と本気で悩んでいます。 mixです。 最近の事件 そう！AWS、ATHENAが発表されました！ Presto信者としては血湧き肉躍るニュースです！ 簡単に説明すると、Prestoというfacebookの作ったフレームワークを AWSで__サーバーレスに使える__という画期的かつ凄すぎる新サービスです！ カレンダー2日連続になっていますが、 AWSの回し者とかじゃないです。。。(>_<) そもそもPrestoってなんじゃい？？ 下の説明を正確にしていくと、 分類も定義によったり、 テラバイト処理には対応する大規模構成が必要になったり、 クエリがSQLなのはPrestoの特
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
