ddadmin
92f3828a45
- Зачем: - формализация проверки всей цепочки ETL (STG -> ODS -> DDS -> DM). - Что: - создан docs/e2e-etl-test-protocol.md и sql/truncate_gp.sql. - в Makefile добавлена команда dwh-truncate. - start_date во всех DAG изменен на 2017-01-01. - Проверка: - выполнение make dwh-truncate и прогон DAG.
33 lines
1.0 KiB
Python
33 lines
1.0 KiB
Python
from __future__ import annotations
|
|
|
|
"""
|
|
Учебный DAG: применяет DDL для базовой таблицы orders в Greenplum.
|
|
Запускается вручную перед CSV‑пайплайном или после изменения схемы.
|
|
"""
|
|
|
|
from datetime import datetime, timedelta
|
|
|
|
from airflow.providers.postgres.operators.postgres import PostgresOperator
|
|
|
|
from airflow import DAG
|
|
|
|
GREENPLUM_CONN_ID = "greenplum_conn"
|
|
|
|
default_args = {"owner": "airflow", "retries": 1, "retry_delay": timedelta(seconds=30)}
|
|
|
|
with DAG(
|
|
dag_id="orders_base_ddl",
|
|
start_date=datetime(2017, 1, 1),
|
|
schedule=None,
|
|
catchup=False,
|
|
template_searchpath="/sql",
|
|
default_args=default_args,
|
|
tags=["demo", "greenplum", "ddl", "orders"],
|
|
description="Создаёт/обновляет базовую таблицу orders в схеме public",
|
|
) as dag:
|
|
apply_orders_ddl = PostgresOperator(
|
|
task_id="apply_orders_ddl",
|
|
postgres_conn_id=GREENPLUM_CONN_ID,
|
|
sql="base/orders_ddl.sql",
|
|
)
|