ddadmin
8028711f0c
- Зачем: - адаптация пайплайна для работы с чистым PostgreSQL вместо Greenplum - обеспечение совместимости с учебным стендом на базе Docker Compose - Что: - переименованы файлы (greenplum -> postgres) - обновлены DAG-файлы: замена get_gp_conn на get_postgres_conn, адаптация DDL под PostgreSQL - обновлён helpers/postgres.py: замена функций и переменных окружения - добавлен pytest в requirements.txt для запуска тестов - создан tests/conftest.py с функцией patch_postgres_hook - обновлён tests/test_postgres_helpers.py: исправлены импорты - добавлено монтирование папки tests в docker-compose.yml - адаптирован sql/base/orders_ddl.sql под PostgreSQL - Проверка: - docker-compose exec airflow-webserver pytest /opt/airflow/tests/test_postgres_helpers.py
32 lines
1.0 KiB
Python
32 lines
1.0 KiB
Python
from __future__ import annotations
|
|
|
|
"""
|
|
Учебный DAG: применяет DDL для базовой таблицы orders в Postgres.
|
|
Запускается вручную перед CSV‑пайплайном или после изменения схемы.
|
|
"""
|
|
|
|
from datetime import datetime, timedelta
|
|
|
|
from airflow.providers.postgres.operators.postgres import PostgresOperator
|
|
|
|
from airflow import DAG
|
|
|
|
POSTGRES_CONN_ID = "postgres_training"
|
|
|
|
default_args = {"owner": "airflow", "retries": 1, "retry_delay": timedelta(seconds=30)}
|
|
|
|
with DAG(
|
|
dag_id="orders_base_ddl",
|
|
start_date=datetime(2017, 1, 1),
|
|
schedule=None,
|
|
catchup=False,
|
|
template_searchpath="/opt/airflow/sql",
|
|
default_args=default_args,
|
|
tags=["demo", "postgres", "ddl", "orders"],
|
|
description="Создаёт/обновляет базовую таблицу orders в схеме public",
|
|
) as dag:
|
|
apply_orders_ddl = PostgresOperator(
|
|
task_id="apply_orders_ddl",
|
|
postgres_conn_id=POSTGRES_CONN_ID,
|
|
sql="base/orders_ddl.sql",
|
|
) |