Руководства STG/ODS/DDS/DM сверены с действующими SQL и DAG, ожидания учебных заглушек связаны с ТЗ. Самопроверка заданий отделена от проверок разработки и исторических планов. Для dim_routes закреплено обновление описательных полей только у открытых версий. SQL, DAG, DDL и настройки стенда не менялись. Проверки: make lint; make test (4 passed, 14 skipped); карта; 292 локальные ссылки; маршрут чтения и карта в Chromium. Живой ETL не запускался.
4.0 KiB
Документация
Знакомство и первое задание
После запуска стенда пройдите три шага:
- Структура DWH: смысл строк и связей на примере поездки.
- От карты к SQL загрузки: разбор готового справочника ODS. Сборка факта понадобится позже, перед DDS.
- Учебные задания: файлы для работы, порядок запуска и самопроверка. Поля и бизнес-правила находятся в ТЗ.
Найти деталь во время работы
Интерактивная карта ведет от таблицы к ее
источникам, потребителям, SQL и пункту задания.
Откройте локальный файл docs/design/architecture-map.html в браузере;
просмотр исходного HTML в Gitea не показывает карту.
Руководство объясняет открытие и адресные ссылки.
| Вопрос | Основной документ |
|---|---|
| В каком порядке запускать слои? | Порядок запуска DAG |
| Что делает загрузка и где искать ошибку? | Руководства STG, ODS, DDS, DM |
| Какие поля и преобразования нужны в моем задании? | ТЗ |
| Как называются служебные поля и что означают метки времени? | Соглашения об именах |
| Какие проверки включить в DQ? | Классы DQ-проверок |
| Как устроены контейнеры, Connections и настройки? | Справочник стенда |
Проверки разработки и диагностика
TESTING.md описывает проверки изменений репозитория: pytest, линтеры, проверку карты и прогоны стенда. Для выполнения первого задания достаточно самопроверки из его инструкции.
Для углубленного разбора доступны исторический QA-план с многодневными и негативными сценариями полной реализации и заметки о генераторе Bookings. QA-план требует отдельного тестового стенда и сверки с текущими SQL.
История разработки
Планы слоев сохранены по прежним адресам: STG, ODS, DDS, DM. В них остаются исходные обоснования, варианты SQL и последовательность создания файлов. В начале каждого плана есть переход к действующему руководству. Для реализации учебных загрузок используйте ТЗ и готовые SQL-примеры.
Полные материалы проектирования (PRD, дизайн заданий, архитектурные решения)
находятся в ветке solution.