ddadmin
491f1e68d6
- Зачем: - необходимо продемонстрировать студентам альтернативный паттерн загрузки (Full Rebuild) и использование AO Column Store в Greenplum. - Что: - созданы DDL, Load и DQ скрипты для витрины dm.route_performance (эффективность маршрутов). - реализована агрегация по бизнес-ключу route_bk для корректной обработки SCD2-измерений. - настроен формат хранения AO Column Store с компрессией zstd (уровень 1). - обновлены DAGи bookings_dm_ddl и bookings_to_gp_dm для параллельной оркестрации новой витрины. - Проверка: - визуальный аудит SQL-кода на соответствие naming_conventions.md. - проверка структуры DAG в Airflow (параллельные ветки load -> dq). - наличие бизнес-инварианта total_boarded <= total_tickets в DQ-скрипте.
83 lines
3.4 KiB
SQL
83 lines
3.4 KiB
SQL
-- Загрузка витрины dm.route_performance: Full Rebuild.
|
|
--
|
|
-- Учебные цели:
|
|
-- 1. Демонстрация TRUNCATE + INSERT. Таблица маленькая (~1000 строк),
|
|
-- пересоздать её с нуля дешевле, чем вычислять дельту.
|
|
-- 2. Обработка SCD2: агрегируем факты по бизнес-ключу route_bk,
|
|
-- чтобы собрать данные со всех исторических версий маршрута.
|
|
-- 3. Денормализация атрибутов из ТЕКУЩЕЙ (актуальной) версии измерения.
|
|
|
|
-- Шаг 1: Очистка таблицы (AO Column Store не поддерживает эффективный DELETE/UPDATE).
|
|
TRUNCATE dm.route_performance;
|
|
|
|
-- Шаг 2: Агрегация всех фактов по бизнес-ключу маршрута.
|
|
-- Используем временную таблицу для удобства и читаемости.
|
|
CREATE TEMP TABLE tmp_route_metrics ON COMMIT DROP AS
|
|
SELECT
|
|
r.route_bk,
|
|
COUNT(DISTINCT f.flight_id) AS total_flights,
|
|
COUNT(*) AS total_tickets,
|
|
SUM(CASE WHEN f.is_boarded THEN 1 ELSE 0 END) AS total_boarded,
|
|
SUM(f.price) AS total_revenue,
|
|
MIN(cal.date_actual) AS first_flight_date,
|
|
MAX(cal.date_actual) AS last_flight_date,
|
|
-- Доля посаженных пассажиров среди всех проданных билетов маршрута
|
|
-- (упрощение: не взвешено по рейсам)
|
|
AVG(CASE WHEN f.is_boarded THEN 1 ELSE 0 END::NUMERIC) AS avg_boarding_rate
|
|
FROM dds.fact_flight_sales f
|
|
JOIN dds.dim_routes r ON f.route_sk = r.route_sk
|
|
JOIN dds.dim_calendar cal ON f.calendar_sk = cal.calendar_sk
|
|
GROUP BY r.route_bk;
|
|
|
|
-- Шаг 3: Объединяем агрегаты с АКТУАЛЬНЫМИ атрибутами маршрута.
|
|
INSERT INTO dm.route_performance (
|
|
route_bk,
|
|
route_sk,
|
|
departure_airport_bk,
|
|
departure_city,
|
|
arrival_airport_bk,
|
|
arrival_city,
|
|
airplane_bk,
|
|
airplane_model,
|
|
total_seats,
|
|
total_flights,
|
|
total_tickets,
|
|
total_boarded,
|
|
total_revenue,
|
|
avg_ticket_price,
|
|
avg_boarding_rate,
|
|
avg_load_factor,
|
|
first_flight_date,
|
|
last_flight_date,
|
|
_load_id
|
|
)
|
|
SELECT
|
|
m.route_bk,
|
|
r_curr.route_sk,
|
|
r_curr.departure_airport_bk,
|
|
r_curr.departure_city,
|
|
r_curr.arrival_airport_bk,
|
|
r_curr.arrival_city,
|
|
r_curr.airplane_bk,
|
|
r_curr.airplane_model,
|
|
r_curr.total_seats,
|
|
m.total_flights,
|
|
m.total_tickets,
|
|
m.total_boarded,
|
|
m.total_revenue,
|
|
-- Средний чек
|
|
(m.total_revenue / NULLIF(m.total_tickets, 0))::NUMERIC(10,2),
|
|
m.avg_boarding_rate::NUMERIC(5,4),
|
|
-- Load Factor: общее кол-во посадок / (кол-во рейсов * мест в самолете)
|
|
-- Это учебное допущение (упрощение), т.к. самолет мог меняться.
|
|
ROUND(
|
|
m.total_boarded::NUMERIC / NULLIF(m.total_flights * r_curr.total_seats, 0),
|
|
4
|
|
) AS avg_load_factor,
|
|
m.first_flight_date,
|
|
m.last_flight_date,
|
|
'{{ run_id }}' AS _load_id
|
|
FROM tmp_route_metrics m
|
|
JOIN dds.dim_routes r_curr ON m.route_bk = r_curr.route_bk
|
|
WHERE r_curr.valid_to IS NULL; -- Берем только АКТУАЛЬНУЮ версию для денормализации
|