タグ

ブックマーク / qiita.com/taka_yayoi (1)

  • Adaptive Query Execution : Spark SQLの実行スピードの高速化 - Qiita

    How to Speed up SQL Queries with Adaptive Query Executionの翻訳です。 この記事は、Databricks Apache Sparkエンジニアリングチーム、Wenchen Fan、Herman van Hovell、MaryAnn Xueと、Intelのエンジニアリングチーム、Ke Jia、Haifeng Chen、Carson Wangの共著です。 以下でカバーされているソリューションのデモ用AQEノートブック 数年をかけて、高品質なクエリー実行計画を生成するために、Spark SQLのクエリーオプティマイザとプランナーを改善するための弛まない努力がはらわれてきました。その中でも最大のものが、Sparkが適切な計画を選択できるように、様々な統計データ(行数、固有な値の数、NULL値、最大値、最小値など)を収集、活用するコストベースの最

    Adaptive Query Execution : Spark SQLの実行スピードの高速化 - Qiita
    HHR
    HHR 2022/03/23
    batchのみでstreamingでは使えない
  • 1