- Зачем: - необходимо визуализировать выбор типа хранения (Heap vs Append-Only) для учебных целей. - автоматизировать проверку всей цепочки DWH для исключения ручных ошибок. - сделать процесс отладки прозрачным и наглядным через стандартные инструменты Airflow. - Что: - внедрена клауза WITH (appendonly=...) во все DDL; ODS-справочники переведены на AO Row и TRUNCATE+INSERT. - создан скрипт scripts/e2e_etl.sh для полного прогона ETL (DDL + 2 дня данных) через REST API. - исправлены баги типизации (INTEGER[]), именования полей (amount, passenger_id) и удалены фантомные колонки (contact_data). - обновлен e2e-etl-test-protocol.md: добавлен раздел по отладке, чтению логов и перезапуску задач через API. - исправлены pytest-контракты под новую логику загрузки. - Проверка: - успешный прогон `make e2e-smoke` (полный цикл от очистки до витрины).
52 lines
1.5 KiB
SQL
52 lines
1.5 KiB
SQL
-- Загрузка ODS по routes: Полная перезагрузка (TRUNCATE + INSERT).
|
|
-- Почему: для справочников-снимков в Greenplum на AO-таблицах
|
|
-- эффективнее перетереть данные целиком, чем делать медленный UPDATE.
|
|
|
|
TRUNCATE TABLE ods.routes;
|
|
|
|
INSERT INTO ods.routes (
|
|
route_no,
|
|
validity,
|
|
departure_airport,
|
|
arrival_airport,
|
|
airplane_code,
|
|
days_of_week,
|
|
departure_time,
|
|
duration,
|
|
_load_id,
|
|
_load_ts
|
|
)
|
|
WITH src AS (
|
|
-- Выбираем последний снимок из STG для текущего батча
|
|
SELECT
|
|
s.route_no,
|
|
s.validity,
|
|
s.departure_airport,
|
|
s.arrival_airport,
|
|
s.airplane_code,
|
|
s.days_of_week::INTEGER[] AS days_of_week,
|
|
NULLIF(s.scheduled_time, '')::TIME AS departure_time,
|
|
NULLIF(s.duration, '')::INTERVAL AS duration,
|
|
ROW_NUMBER() OVER (
|
|
PARTITION BY s.route_no, s.validity
|
|
ORDER BY s.load_dttm DESC, s.src_created_at_ts DESC NULLS LAST
|
|
) AS rn
|
|
FROM stg.routes AS s
|
|
WHERE s.batch_id = '{{ ti.xcom_pull(task_ids="resolve_stg_batch_id") }}'::text
|
|
)
|
|
SELECT
|
|
s.route_no,
|
|
s.validity,
|
|
s.departure_airport,
|
|
s.arrival_airport,
|
|
s.airplane_code,
|
|
s.days_of_week::INTEGER[],
|
|
s.departure_time,
|
|
s.duration,
|
|
'{{ ti.xcom_pull(task_ids="resolve_stg_batch_id") }}'::text,
|
|
now()
|
|
FROM src AS s
|
|
WHERE s.rn = 1;
|
|
|
|
ANALYZE ods.routes;
|