tests.system.cncf.kubernetes.example_spark_kubernetes¶
這是一個使用 SparkKubernetesOperator 和 SparkKubernetesSensor 的示例 DAG。在此示例中,我們建立了兩個按順序執行的任務。第一個任務是在 Kubernetes 叢集上提交 sparkApplication(示例使用 spark-pi 應用)。第二個任務是檢查第一個任務提交的 sparkApplication 的最終狀態。
Spark-on-k8s operator 需要已安裝在 Kubernetes 上 https://github.com/GoogleCloudPlatform/spark-on-k8s-operator