はじめに この記事は、Apache Sparkのpartitionの概念について例題を添えてまとめてみようと試みた記事です。 Apache Sparkの概要についてはApache Spark で分散処理入門をどうぞ。 例題で見るパーティションのイメージ 以下は、Apache Sparkの分散処理のイメージを例題とともに図解しているものです。 まず、使う関数の説明、次にその処理のイメージ、最後にソースコードの順番で紹介しています。 パーティションの使い方が異なる三例を紹介します。 - filter関数の例 - flatmap関数の例 - reduceByKey関数の例 filter関数の例 要素単位の変換としてはmap()やfilterなどがあります。 関数 説明
![Apache Spark - partitionについて - - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/32e226eebf6d98b4e78ec8714fa9dc0528e3f88e/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9QXBhY2hlJTIwU3BhcmslMjAtJTIwcGFydGl0aW9uJUUzJTgxJUFCJUUzJTgxJUE0JUUzJTgxJTg0JUUzJTgxJUE2JTIwLSZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnM9N2IyYzY2ZjQzMTIyMDI2ZmY4MWJkZTI4Nzg1YzI4YzQ%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBIaXJva2kxMXgmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTdlM2E2MzE2YjM1MzY4MGQyZWRkZmM1ZTllNzA4OWMz%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D9d55b2de9229abbef18b4c148023fc77)