Apache Spark(pyspark)でmavenリポジトリのjarを追加 - QiitaApache Sparkで追加のパッケージ(Mavenリポジトリにあるもの)を利用したいときに、configの設定が必要になるときがあるので自分用にメモ。 1. Mavenパッケージ Mavenリポジトリ上のパッケージ情報はgroupId、artifactId、versionの3つの要素からなるらしい。(Maven coordinatesというらしい) Sparkのconfigに渡すときはこれらを:でつないで、groupId:artifactId:versionの文字列にしたものを用意する。 複数のパッケージを渡したいときはこれらを,でつないで、groupId1:artifactId1:version1,groupId2:artifactId2:version2,groupId3:artifactId3:version3 のようにする。 2. configの設定 設定ファイルに書いておいて
