AirbyteTriggerSyncOperator¶
使用 AirbyteTriggerSyncOperator 在 Airbyte 中觸發現有的 ConnectionId 同步作業。
警告
此運算子在 Airbyte 中觸發同步作業。如果再次觸發,此運算子不保證冪等性。您必須瞭解您正在更新/同步的源(資料庫、API 等)以及在 Airbyte 中執行操作應用的方法。
使用運算子¶
AirbyteTriggerSyncOperator 需要 connection_id,這是 Airbyte 中源和目標同步作業之間建立的 uuid 識別符號。使用 airbyte_conn_id 引數指定用於連線到您賬戶的 Airbyte 連線。
Airbyte 為雲端和開源使用者提供一種單一的認證方法。您需要提供 client_id 和 client_secret 以認證 Airbyte 伺服器。
您可以使用此運算子透過兩種方式在 Airflow 中觸發同步作業。第一種是同步過程。此運算子將啟動 Airbyte 作業,並管理作業狀態。另一種方式是使用標誌 async = True,這樣運算子僅觸發作業並返回 job_id,該 job_id 會傳遞給 AirbyteSensor。
使用同步方式的示例
tests/system/airbyte/example_airbyte_trigger_job.py
sync_source_destination = AirbyteTriggerSyncOperator(
task_id="airbyte_sync_source_dest_example",
connection_id=CONN_ID,
)
使用非同步方式的示例
tests/system/airbyte/example_airbyte_trigger_job.py
async_source_destination = AirbyteTriggerSyncOperator(
task_id="airbyte_async_source_dest_example",
connection_id=CONN_ID,
asynchronous=True,
)
airbyte_sensor = AirbyteJobSensor(
task_id="airbyte_sensor_source_dest_example",
airbyte_job_id=async_source_destination.output,
)