feat(generator): сериализатор, приёмники, проигрыватель и запуск контейнером #61

Merged
ddmitry merged 2 commits from feat/41-serializer-sinks-cli into main 2026-08-07 14:37:25 +03:00
2 Commits
Author SHA1 Message Date
ddadminandClaude Opus 5 a61f7934ec feat(generator): сериализатор, приёмники, проигрыватель и запуск контейнером
- Зачем:
  - до сих пор генератор умел собирать день, но не умел его отдать: топик
    hits наполнялся пробником, а не настоящими данными. Тикет #41 доводит
    события до стенда и закрывает форму на проводе, на которую обопрётся
    типизированный ODS (#43).
  - сериализатор один по решению спеки: второе место, печатающее событие в
    JSON, разошлось бы с первым молча.
- Что:
  - serialize.py — канонический сериализатор на orjson: единственное место,
    где событие целиком становится JSON; 47 ключей всегда, «пусто» это
    пустое значение, даты ISO-8601, ecommerce строкой. Вложенный блок
    ecommerce в commerce.py вторым сериализатором не считается — правило
    про событие, а не про блок внутри него.
  - sinks.py — приёмники: файл (одно событие — одна строка) и Kafka (одно
    событие — одно сообщение). Ключа у сообщения нет: WatchID уникален,
    ключом он был бы ключом лишь на вид.
  - player.py, cli.py — проигрыватель и интерфейс запуска: режимы batch и
    live (темп ×60), несколько дней одним запуском, ограниченная пачка,
    раздельные тайминги генерации и доставки, лаг в логе.
  - день на оси и имя топика умолчаний не имеют: параметр, описывающий
    среду или позицию, приходит от зовущего, иначе отказ до генерации.
    Умолчания зерна, числа дней и темпа остаются — они описывают мир.
  - generator/Dockerfile — свой образ: зависимости из uv.lock, база
    закреплена до патча, раскладка репозитория сохранена ради каталога
    товаров. Образ Airflow не тронут.
  - разовая служба compose под профилем, цели generate-batch и
    generate-live, .dockerignore, tmp/ в .gitignore.
  - решения внесены в спеку (разделы 4, 8, 9), быстрый старт — в README.
- Проверка:
  - make test 406 passed, make lint, make typecheck, make config-test.
  - побайтовый детерминизм: два прогона дня в независимых процессах дают
    один sha256; день в контейнере совпадает с днём на машине.
  - на стенде: пакетный день доехал до stg.hits_raw_dist, счёт по
    Distributed сошёлся — отправлено 50626, в таблице 50626.
  - топик прочитан обеими нодами: clickhouse-01 раздел 0 (26368),
    clickhouse-02 раздел 1 (24258).
  - живой день: модельное время 01:00 на 60-й секунде, 02:00 на 120-й —
    темп ×60, лаг печатается.
  - форма на проводе в колонке raw: даты читаются глазами, ecommerce лежит
    строкой.

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
2026-08-07 12:05:11 +03:00
ddadminandClaude Opus 5 8903b6a054 docs(agents): усложнение не бесплатно — платит учебная ценность
- Зачем:
  - у вопроса «чему на этом научится менти?» не хватало второй половины:
    он отсеивал бесполезное, но не взвешивал цену полезного. Стенд
    учебный, и чем он сложнее, тем хуже как учебный материал.
  - прогон #41 показал механизм: две слепые линии ревью дали 15 находок,
    саморевью ещё 7, и каждая по устройству триажа превратилась в правку.
    Шага, на котором кто-нибудь вычитает, в конвейере не было ни разу —
    только воронка. Проход на вычитание потом срезал 149 строк и 6 тестов,
    и всё срезанное появилось после ревью, а не при замысле.
- Что:
  - в раздел «Цель репозитория» добавлены три абзаца: внимание менти как
    конечная валюта и вопрос «что он платит и что получает»; почему
    оборонительный код дороже прочего и врёт про опасность; проход на
    вычитание как обязательный шаг перед приёмкой заметной работы.
  - записано частное правило, выведенное владельцем на двух резах подряд:
    не сторожить ошибку, которую человек делает сам себе и тут же видит —
    разбирательство с ней и есть урок.
- Проверка:
  - правка текстовая, целей make не задевает; make config-test зелёный.

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
2026-08-07 12:04:43 +03:00