ddadminandClaude Fable 5
c361c36e3d
- Зачем:
- лотерея ярлыков доставки при ничьей по updated_at делала слой
недетерминированным и держала окно K двумя копиями без сверки (#163).
- Что:
- добавлен ADR 0014: версия ods.order — snapshot_date, с ответом доводу
ADR 0010, границами допущения и веером отклонённых вариантов.
- в ADR 0010 помечен пересмотр колонки версии.
- Проверка:
- реализация и замеры — тикет #165; решение кодом пока не применено.
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
3.3 KiB
ADR 0010. Заказы в ODS: версии сущности вместо подмены слепка
Дата: 16 августа 2026 года. Статус: принято. Частично заменяет
ADR 0008. Колонка версии пересмотрена
ADR 0014: вместо updated_at —
snapshot_date.
Решение
Пакетный забор заказов остаётся прямым чтением байтового Kafka-чтеца по
команде Airflow, но порция чтения больше не считается полным слепком и не
публикуется заменой партиции snapshot_date. Прочитанные строки получают
_load_id запуска, разбираются из одного среза STG в годные строки и ошибки,
а ods.order хранит принятые версии заказа в
ReplacingMergeTree(updated_at). Ключ сущности — order_id, партиция строится
от неизменного created_at, все версии ключа направляются на один шард.
snapshot_date остаётся датой наблюдения источника, _load_id — координатой
запуска приёма, _load_ts — временем прибытия строки. Ни одна из них не
заменяет бизнес-версию updated_at. Физическая таблица может показывать
несколько версий; точное текущее состояние ODS открывает ods.order_v, которое
скрывает FINAL или равносильный способ выбора последней версии.
Модель заказа в DDS этим решением не задаётся. DDS получает устойчивую типизированную поверхность ODS и отдельно решает зерно, связи и способ материализации своей модели.
Почему отменена подмена партиции
Прямой SELECT Kafka Engine заканчивается после одной полученной порции, а
протокол не несёт признака конца слепка. Поэтому snapshot_date не доказывает,
что в STG собрана полная партиция, и её подмена могла бы удалить уже принятые
версии прошлого дня. Маркер конца, опись или фиксация конечных офсетов сделали
бы границу настоящей, но добавили бы новый протокол без нужного стенду урока.
Малый объём позволяет оставить одно чтение на запуск как проверяемое эксплуатационное допущение, а не границу полноты. Полный контракт разбора, граница брака и поведение повторов заданы в спецификации приёма заказов.