Apache Spark 2.0正式版がリリース。ANSI SQL標準サポート、10倍以上の高速化など
Apache Spark 2.0正式版がリリース。ANSI SQL標準サポート、10倍以上の高速化など 分散処理フレームワークの「Apache Spark 2.0」正式版のリリースが、開発元のDatabricksから発表されました。これまでApache Sparkはバージョン1.x（直前の最新版は1.6）でしたので、メジャーバージョンアップとなります。 Spark 2.0で最大の新機能は、新しいSQLパーサーを採用したことによるANSI SQL（SQL 2003）への対応です。ビッグデータのベンチマークの1つであるTPC-DSの99種類のクエリがそのまま実行可能と説明されており、プログラマが慣れ親しんだ一般的なSQL文はすべて実行可能になります。 また、DataFrameとDatasetは統合されたAPIとなりました。 こうしたAPIの変更や改善が行われた一方で、Spark 2.0ではパフ
SparkとHadoop MapReduceの違い
速度 MapReduceはHadoopクラスタのメモリを有効活用できていなかった。 SparkではRDD（Resilient Distributed Datasets）を使うことで、データをメモリに保存することができ、必要な場合にのみディスクへの保存を行うことができる。 これにより、SparkはHadoopよりも格段に高速である。 データ Hadoopはデータをディスクに保存するが、Sparkはメモリに保存する。 SparkはRDD（Resilient Distributed Datasets）とよばれるデータストレージモデルを用いる。RDDはnetwork IOを最小化するフォールトトレランスの機構を提供する。RDDの一部のデータが失われた場合、lineage（データに提供された処理の履歴）を元に再構築が行われる。このためフォールトトレランスのためのレプリケーションが不要となる。 これに
Spark Streaming - Spark 3.5.1 Documentation
Spark Streaming Programming Guide Note Overview A Quick Example Basic Concepts Linking Initializing StreamingContext Discretized Streams (DStreams) Input DStreams and Receivers Transformations on DStreams Output Operations on DStreams DataFrame and SQL Operations MLlib Operations Caching / Persistence Checkpointing Accumulators, Broadcast Variables, and Checkpoints Deploying Applications Monitorin
Data Source API in Spark
Video of the presentation can be seen here: https://www.youtube.com/watch?v=uxuLRiNoDio The Data Source API in Spark is a convenient feature that enables developers to write libraries to connect to data stored in various sources with Spark. Equipped with the Data Source API, users can load/save data from/to different data formats and systems with minimal setup and configuration. In this talk, we i
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Structured Streaming + Kafka Integration Guide (Kafka broker version 0.10.0 or higher) - Spark 2.2.0 Documentation
Maven Repository: org.apache.kafka » kafka-clients » 2.0.0
Maven Repository: org.apache.spark » spark-sql-kafka-0-10
Apache Kafka + Spark Streaming Integration - DZone Integration
Mac spark-shell Error initializing SparkContext
pyspark : NameError: name 'spark' is not defined
PySpark環境構築 ~PySparkをJupyter notebookで動かすところまで~ - Qiita
Re: spark run shell On yarn
Cloudera Support - Knowledge Base
分散システムについて語らせてくれ
GitHub - databricks/spark-perf: Performance tests for Apache Spark
Spark & Scala - Cannot Filter null Values from RDD
using spark to read specific columns data from hbase
how to fetch all of data from hbase table in spark
Apache Spark の紹介（前半：Sparkのキホン）
Spark SQL Data Sources API: Unified Data Access for the Apache Spark Platform
