docs(generator): постановка задачи 13 доработана после двойного ревью

- Зачем:
  - два слепых ревью постановки (Codex и Claude) вернули CHANGES_REQUIRED:
    guard чистого стенда противоречил доливке, не были заданы механизм
    идемпотентности, точка фиксации, формат цепочки границ и проверки.
- Что:
  - добавлен раздел «Решения по ревью постановки»: next-day как новый
    ограниченный режим, день = [T_end, T_end+24h), предпроверка границы,
    параметр expected_t_end, манифест как точка фиксации, поле boundaries,
    батчевый режим проверки цепочки, расписание вынесено в отдельную задачу.
  - критерии приёмки финализированы (были черновыми), добавлен раздел
    «Границы (что не трогать)», исправлены ссылки на строки кода.
- Проверка:
  - вычитка задачи; факты сверены обоими ревьюерами по коду ветки
    (индексы находок — в обменном каталоге сессии).

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
2026-07-12 22:30:56 +03:00
co-authored by Claude Fable 5
parent b475958c99
commit 540989d358
@@ -17,67 +17,130 @@ Status: ready-for-agent
модельный день -> прогон `etl_pipeline` -> витрины и дашборды сдвинулись.
Полный цикл DWH виден за один шаг; повторяемо и управляемо, в отличие от
непрерывного live.
- **Имитация жизни.** Тот же механизм по расписанию (`@daily` или чаще) —
стенд «живёт»: мониторинги бегут, метрики копятся, нагрузка видна.
- **Имитация жизни.** Тот же механизм по расписанию — стенд «живёт».
В этой задаче делаем глагол готовым к расписанию (идемпотентность,
громкие отказы), но само включение расписания — отдельная задача
(решение по скоупу 2026-07-12, см. «Решения по ревью постановки»).
- Удлинение истории остаётся как частный случай (несколько next-day подряд).
## Интерфейс
Новый глагол `next-day` в существующем DAG `generator_control`
(`airflow/dags/generator_control_dag.py`), не отдельный DAG: менти уже знает,
где ручки генератора; pause-check `etl_pipeline` и guard чистого стенда
переиспользуются. Ручной триггер — для урока, расписание — для «жизни».
где ручки генератора. Pause-check `etl_pipeline` переиспользуется
(`generator_control_dag.py:153-164` — подтверждено ревью). Guard чистого
стенда **не** переиспользуется — у next-day своя предпроверка границы
(см. решение 3 ниже).
## Развилка реализации — решена (пользователь, 2026-07-07)
**Выбран вариант 2: генерация следующего дня от слепка `T_end`.**
Обоснование. Диагноз задачи 20 показал, что генератор на стыке ничего не
ломает — красный гейт был гонкой в самой проверке. Страх «швов» был страхом
перед артефактом верификатора. При этом оба варианта одинаково требуют
цепочку манифестов и расширение проверок, а вариант 1 сверх того требует
новый режим среза в импорте («всё или ничего» сейчас). То есть вариант 2 не
дороже, честнее (жизнь стенда не ограничена длиной артефакта) и переиспользует
уже закалённый restore-механизм (задача 09: донор в state, громкие ошибки,
ломает — красный гейт был гонкой в самой проверке. Оба варианта одинаково
требуют цепочку границ и расширение проверок, а вариант 1 сверх того требует
новый режим среза в импорте («всё или ничего» сейчас). Вариант 2 не дороже,
честнее (жизнь стенда не ограничена длиной артефакта) и переиспользует
закалённый restore-механизм (задача 09: донор в state, громкие ошибки,
детерминированная запасная ветка).
Отклонено: вариант 1 (резать готовый артефакт на дневные порции) — не даёт
неограниченной жизни и требует своей новой механики импорта.
## Открытые вопросы (блокируют ready-for-agent)
## Решения по ревью постановки (2026-07-12, два слепых ревью)
- [x] Умеет ли текущий импорт артефакта (`startup-history-import`) подавать
историю частями? **Нет, «всё или ничего»** (проверено 2026-07-07):
скрипт требует чистый стенд (`import_startup_history_artifact.sh:50`,
`assert_stand_clean.sh`), CLI артефакта воспроизводит все топики целиком и
не имеет опций среза, а валидация жёстко связывает manifest и state
(`startup_history_artifact.py`, `_validate_manifest_state`). Для варианта 1
нужен новый режим импорта: срез по модельному дню, цепочка manifest'ов
вместо «manifest равен state», и ослабление guard'а чистого стенда для
последующих порций (граница по манифесту вместо пустоты). Нюанс: артефакт
хранит один state на конец полной истории, поэтому live-продолжение
возможно только после последней порции; промежуточные дни — batch-only
(для учебного сценария этого достаточно).
- [x] Для варианта 2 — решение по запасной ветке рождения визита: **уже
закрыто фиксом задачи 09** (проверено по коду 2026-07-07 при диагнозе
задачи 20): ветка хранит донора (`generation.py:194-209`) и громко падает
на неполных locations, восстановление воспроизводит её детерминированно.
Оба ревью (Codex и Claude, свежие сессии) вернули CHANGES_REQUIRED.
Все находки внесены решениями ниже; полные индексы — в обменном каталоге
сессии (в репо не хранятся).
## Acceptance criteria (черновые)
1. **next-day — новый ограниченный режим запуска, а не переиспользование
существующего глагола.** Сейчас `backfill` — свежая генерация от `T0`
с чистым завершением, `continue` — бесконечный live
(`generator/src/clickstream_generator/launch.py:96-128`,
`service.py:96-128`). next-day = восстановление мира из state
+ генерация ровно одного дня с самозавершением + сдвиг манифеста.
Это основная работа задачи, «переиспользуется» только restore-механизм.
2. **Один модельный день = ровно 24 часа, полуоткрытый диапазон
`[T_end, T_end + 24h)` в модельном времени (UTC).** Календарные сутки и
`GEN_MODEL_TIMEZONE` в границах не участвуют; литералы времени в
проверках — по образцу `clickhouse_datetime_literal` (урок задачи 20).
3. **Предпроверка границы вместо guard'а чистого стенда.**
`assert_stand_clean` в DAG требует пустые Kafka и STG
(`airflow/dags/lib/airflow_control.py:99-109`) — next-day по построению
доливает в непустой стенд. Своя предпроверка: манифест существует,
state согласован с `T_end` манифеста, live-генератор остановлен.
Образец «непустого» режима — `assert_stand_clean.sh continue`
(в Python-версии guard'а такого режима нет — добавить именно для
next-day, `clean`-режим не менять).
4. **Идемпотентность — через явный параметр.** У DAG-запуска next-day есть
необязательный параметр `expected_t_end`: если задан и не совпадает с
`T_end` манифеста — громкий отказ, в тексте обе границы (ожидаемая и
фактическая). Повторный триггер «того же дня» с прежним `expected_t_end`
после успешного прогона ловится этим же сравнением. Без параметра —
генерация от текущей границы (режим «жизни»); от двойного параллельного
запуска защищает `max_active_runs=1`.
5. **Точка фиксации — публикация манифеста, автоотката нет.** Порядок
публикации дня: топики данных -> state -> манифест последним. Сбой до
манифеста оставляет «хвост» за границей — его ловит проверка цепочки
(непарные счётчики), восстановление — переимпорт артефакта
(задокументировать в OPERATIONS.md). Отклонено: инкрементальный откат
через `rollback_import_topics` — он удаляет топики целиком
(`startup_history_artifact.py:250-270`) и для доливки непригоден.
6. **Цепочка границ живёт внутри единственной записи манифеста.**
Манифест остаётся одной записью compact-топика с ключом `default`
(`kafka_io.py:205-274`); добавляется необязательное поле `boundaries`
накопительный список границ `[T0, d1, ..., T_end]`. Старый манифест без
поля читается как `[T0, T_end]`. Итоговые счётчики и контрольные суммы
остаются накопительными за всю историю. Формат артефакта меняется только
этим необязательным полем — без новой версии и без изменения импорта.
7. **Проверка цепочки — новый батчевый режим, live-гейт не трогать.**
Текущий seam-гейт (`scripts/check_generated_analytics.sh:334-531`)
привязан к одной границе и живому генератору — литерально «расширить»
его нельзя. Новый режим (отдельная make-цель): по каждой границе из
`boundaries` — непарные счётчики и однородность per-event полей у
визитов, переживших границу (класс проверки задачи 09). Существующий
сценарий `make generated-history-runtime-check` остаётся зелёным как был.
8. **Расписание — вне этой задачи.** `schedule=None` у DAG не меняется;
задача гарантирует только готовность глагола к расписанию (пункты 4–5).
Включение «жизни» по расписанию — отдельная задача-продолжение (в ней же
решить: как расписание задаёт `operation=next-day`, ведь параметр DAG по
умолчанию — `backfill`, и планового запуска с дефолтом быть не должно).
9. **Исправлены ссылки:** запасная ветка рождения визита —
`generation.py:196-209` (строка 194 — основная ветка); донор
сериализуется в `runtime.py:178-226`.
- [ ] Глагол `next-day` в `generator_control`: батч ровно за один следующий
модельный день от текущей границы манифеста.
- [ ] Идемпотентность: повторный триггер того же дня — громкий отказ по
манифесту, а не второй мир и не дубли.
- [ ] Манифест двигает `T_end` атомарно; антисмешивание работает на **цепочке**
границ (30 батчей = 30 границ), проверки
(`scripts/check_generated_analytics.sh` и родня) расширены с одной границы
на цепочку.
- [ ] Учебный цикл целиком: после `next-day` прогон `etl_pipeline` даёт новые
строки в DM-витринах; проверка повторяемая, не разовая.
- [ ] Для варианта 2: визиты, пережившие границу батча, однородны по всем
per-event полям (браузер, referer, utm) — тот же класс проверки, что в
задаче 09.
## Acceptance criteria
- [ ] Глагол `next-day` в `generator_control`: батч ровно за
`[T_end, T_end + 24h)` от `T_end` манифеста; после прогона манифест
содержит новую границу в `boundaries` и новый `T_end`.
- [ ] Предпроверка границы: на пустом стенде (нет манифеста) next-day
громко падает; при работающем live-генераторе — громко падает;
`clean`-guard и существующие глаголы `backfill|import|check` не изменены.
- [ ] Идемпотентность: запуск с `expected_t_end`, не равным `T_end`
манифеста, — громкий отказ с обеими границами в тексте; повторный запуск
того же дня после успеха — тот же отказ, дублей и второго мира нет.
- [ ] Проверка цепочки (новая make-цель): проходит по всем границам из
`boundaries`; после N прогонов next-day в цепочке N новых границ;
непарные счётчики нулевые, per-event поля визитов через каждую границу
однородны (браузер, referer, utm).
- [ ] Учебный цикл целиком и повторяемо: next-day -> прогон `etl_pipeline`
-> в DM-витринах появились строки ровно за новый день (счётчики до/после,
прирост только в диапазоне нового дня); проверено на двух next-day подряд.
- [ ] Регрессий нет: тесты генератора и контракты корня зелёные
(`make test`), сценарий `make generated-history-runtime-check`
задачи 20 остаётся зелёным.
- [ ] Документация: OPERATIONS.md — глагол, предпроверка, поведение при
сбое до фиксации манифеста (восстановление переимпортом артефакта).
## Границы (что не трогать)
- Поведение существующих глаголов `backfill`, `import`, `check` и
`clean`-guard'а.
- Формат артефакта — кроме необязательного поля `boundaries` (решение 6);
механику импорта не менять.
- Live seam-гейт задачи 20 (`generated-history-runtime-check`) — не
редактировать, только прогонять как регрессию.
## Blocked by
@@ -92,4 +155,6 @@ Status: ready-for-agent
рождается при любом прохождении мира через сериализованный state (рестарт,
сбой, доливка — один код восстановления); фикс 09 положил донора фактуры в
state и закрыл тихие fallback'и. Прежняя редакция этой задачи называлась
«Доливка стартовой истории кусочком от слепка».
«Доливка стартовой истории кусочком от слепка». Проверенные 2026-07-07
факты (import «всё или ничего», донор задачи 09) подтверждены обоими ревью
2026-07-12 по коду ветки.