refactor(csv): удален легаси CSV-пайплайн и связанные с ним файлы
- Зачем: - Пример базовой загрузки CSV перенесен в отдельный репозиторий `airflow-manual` для разделения учебных треков. - Что: - удалены DAG-файлы `csv_to_greenplum` и вспомогательные скрипты `helpers/greenplum.py`, `orders_ddl.sql`. - из `docker-compose.yml` и `.env.example` удалены переменные и тома (`airflow_data`), необходимые для CSV. - очищена документация (`README.md`, `TESTING.md`, `educational-tasks.md`) и тесты (`test_dags_smoke.py`, `conftest.py`). - отмечен выполненным 'Этап 1' в `TODO.md`. - Проверка: - `make test` проходит успешно (smoke-тесты оставшихся DAG-ов не затронуты).
This commit is contained in:
+1
-4
@@ -1,6 +1,6 @@
|
||||
-- Главный входной DDL-скрипт для Greenplum в учебном стенде.
|
||||
-- Выполняется из контейнера командой `make ddl-gp` и создаёт/обновляет
|
||||
-- все объекты, которые нужны базовым DAG (csv_to_greenplum, bookings_to_gp_stage);
|
||||
-- все объекты, которые нужны DAG'ам bookings ETL-пайплайна;
|
||||
-- подключает файловые DDL через \i, чтобы сохранять единый входной скрипт.
|
||||
--
|
||||
-- Чтобы не ломать задания, новые объекты лучше добавлять в отдельные файлы
|
||||
@@ -8,9 +8,6 @@
|
||||
--
|
||||
-- Подробнее про STG/bookings: см. docs/bookings_to_gp_stage.md.
|
||||
|
||||
-- Таблица для CSV‑пайплайна (csv_to_greenplum).
|
||||
\i base/orders_ddl.sql
|
||||
|
||||
-- Внешняя таблица для чтения данных из демо-БД bookings через PXF (JDBC).
|
||||
-- Источник: таблица bookings.bookings в базе demo (Postgres, сервис bookings-db).
|
||||
DROP EXTERNAL TABLE IF EXISTS public.ext_bookings_bookings;
|
||||
|
||||
Reference in New Issue
Block a user