DatabricksSQLStatementsOperator

使用 DatabricksSQLStatementsOperator 透過 Databricks SQL Statement Execution API 向 Databricks 提交一個 Databricks SQL 語句。

使用 Operator¶

DatabricksSQLStatementsOperator 使用 /api/2.0/sql/statements/ 端點向 Databricks 提交 SQL 語句。它支援可配置的執行引數,例如倉庫選擇、catalog、schema 和引數化查詢。該 operator 可以同步輪詢查詢完成狀態,或者以可推遲模式執行以提高效率。

使用該 operator 唯一需要的引數是

  • statement - 要執行的 SQL 語句。該語句可以是引數化的(可選),參見 parameters。

  • warehouse_id - 執行語句所用的倉庫。

所有其他引數都是可選的,並在 DatabricksSQLStatementsOperator 的文件中進行了描述,包括但不限於

  • catalog

  • schema

  • parameters

示例¶

以下是 DatabricksSQLStatementsOperator 的一個示例用法

tests/system/databricks/example_databricks.py

    sql_statement = DatabricksSQLStatementsOperator(
        task_id="sql_statement",
        databricks_conn_id="databricks_default",
        statement="select * from default.my_airflow_table",
        warehouse_id=WAREHOUSE_ID,
        # deferrable=True, # For using the operator in deferrable mode
    )

此條目是否有幫助?