Files
clickstream-ch-kafka-supers…/CONTEXT.md
T
Dmitry DementievandClaude Opus 4.8 6ddc7a90d4 docs(generator): зафиксировано направление переработки генератора
- Зачем:
  - при возврате к генератору не переоткрывать выбор «генератор vs реплей»
    и иметь готовую рамку требований под реализацию steady-stream.
- Что:
  - ADR-0004: steady-stream питается синтетическим иерархическим генератором,
    не реплеем сида (обоснование + отклонённые варианты C/B).
  - спека docs/specs/2026-06-09: требования к иерархической модели сущностей
    и критерии приёмки; математика делегирована follow-up-спеке.
  - CONTEXT.md: термины «популяция пользователей», «возвращающийся пользователь».
- Проверка:
  - прочитать ADR-0004 и спеку; сверить термины в CONTEXT.md.

Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
2026-06-09 18:04:00 +03:00

5.9 KiB
Raw Blame History

CONTEXT.md — глоссарий домена

Доменный язык стенда: как мы называем сущности кликстрима и что под ними понимаем. Один термин — одно имя. Ведётся вместе с docs/adr/ (см. ADR-0001).

Сущности

Пользователь (user)

user_domain_id (UUID) — постоянный идентификатор пользователя (cookie-уровень), переживает отдельные визиты. Источник — device_events, привязан к click_id. В витринах: uniqExact(user_domain_id).

Визит / сессия (visit / session)

click_id (UUID) — визит: envelope из одного и более событий с общим контекстом device/geo. В DDL dds.click описана как «контекст сессии пользователя» (см. sql/ddl/dds/30_dds.sql).

Важно: в источнике нет отдельного session-таймаута (как Snowplow domain_sessionid). Поэтому в этой модели сессия ≡ визит ≡ click_id — группа событий под одним идентификатором, а не окно активности по тайм-ауту. Если в будущем понадобится «настоящая» сессия по 30-минутному окну неактивности — это отдельная производная над user_domain_id + event_ts; на текущих данных она дала бы те же группы (разброс времени внутри click_id ≤ 1 мин).

«Сессию» и «визит» используем как синонимы; в UI предпочитаем «визит», когда важно подчеркнуть, что это не сессия-по-тайм-ауту.

Событие (event)

event_id (UUID) — отдельное действие пользователя в рамках визита: pageview, click, purchase, add_to_cart и т.п. (поле event_type). Источник — browser_events + location_events. В витринах: count().

Иерархия

user_domain_id  (пользователь, постоянный)
  └── click_id  (визит/сессия — 1..N событий с общим device/geo)
        └── event_id  (событие: pageview / click / purchase ...)

Здоровые данные дают пирамиду users ≤ sessions ≤ events.

Термины потоковой генерации (steady-stream)

Относятся к синтетическому потоку из генератора (режим steady-stream), не к статическому сиду. Решение и контекст — ADR-0004, форма доработки — спека генератора.

Популяция пользователей (user population)

Множество пользователей с постоянными user_domain_id, которые генератор держит во времени и из которых разыгрывает активность. В отличие от сида (где пул user_domain_id плоский и 1:1 с визитами), популяция — это источник возвратов: один и тот же пользователь порождает несколько визитов.

Возвращающийся пользователь (returning user)

Пользователь, открывающий более одного визита (click_id) во времени, с межсессионными паузами. Именно возвраты дают расхождение users < sessions — то, чего нет на сиде (users == sessions) и что отличает поток от статики.

Почему на демо Unique Users == Unique Sessions

В демо-датасете (data/*.jsonl) каждый пользователь имеет ровно один click_id — связь user↔визит строго 1:1 (проверено: 99 пользователей = 99 click_id в полном файле). Поэтому uniqExact(user_domain_id) и uniqExact(click_id) дают одинаковое число.

Это свойство конкретного датасета, а не закон модели и не баг расчёта. В реальных данных пользователь возвращается несколькими визитами, и числа расходятся. Поэтому на дашборде мы не показываем две одинаковые KPI-плитки (это читалось бы как ошибка) — вместо дубля идут производные метрики (события на визит, доля визитов с одним событием), а различие «пользователь vs сессия» объясняется текстом урока.

Синтетический генератор (ветка feature/data-generator) проблему не решает, а усугубляет: он штампует свежий click_id на каждое событие, и click_id вырождается в «событие». См. generator/KNOWN_ISSUES.md на той ветке.

Слои данных

STG → ODS → DDS → DM — см. docs/ARCHITECTURE.md. Витрины (dm.*) и дашборд Superset строятся на статическом сиде, не на потоке.