Merge pull request 'Опись мира: счётчики классов A и C' (#160) from 157-inventory-class-counters into main

This commit was merged in pull request #160.
This commit is contained in:
ddmitry committed 2026-08-25 20:13:38 +03:00
commit 4ea9591a16
9 files changed
+72 -19

No files matched your search

+5
View File
@@ -209,3 +209,8 @@ _Избегать_: описание схемы, документация кон
потоковый приём событий.
_Избегать_: путать с приёмником и пакетным режимом — те про сторону
генератора, про отправку; забор — про сторону хранилища, про чтение.
**Техническая проверка**:
Проверка, чей оракул — внутренний эталон стенда (опись мира), которого у
настоящего магазина нет. За учебный урок DQ не выдаётся.
_Избегать_: DQ-проверка — та работает на наблюдаемых данных магазина.
+3 -2
View File
@@ -151,8 +151,9 @@ Airflow его явную пересборку: удалит прикладны
репозитории значило бы держать там кэш. Вместо него лежит **опись мира**,
[`data/world-inventory.json`](data/world-inventory.json): зерно, версия
генератора, хеш каталога товаров и по строке на каждый день — дата, число
событий и хеш его байтов. Опись отвечает на единственный вопрос: тот ли это
мир, что был вчера.
событий и хеш его байтов. У дней с закрытым окном там же лежат счётчики
классов расхождений по заказам. Опись отвечает на единственный вопрос: тот ли
это мир, что был вчера.
Спрашивают её двое. `make test` в `generator/` сверяет опись с тем, что
собирается из кода сегодня: правка генератора меняет мир, и опись надо
+6 -1
View File
@@ -7,7 +7,12 @@
"day": 0,
"date": "2026-06-01",
"events": 50626,
"sha256": "81ad7f402bdd4c8b56425f6439a024b9996e5ca95dd207d444290d20a70ed407"
"sha256": "81ad7f402bdd4c8b56425f6439a024b9996e5ca95dd207d444290d20a70ed407",
"orders": {
"match": 197,
"cancelled": 20,
"amount_delta": 6
}
},
{
"day": 1,
+5 -1
View File
@@ -87,7 +87,11 @@ Airflow. Партиция — день данных; прогон звена DQ
- счётная сверка сессий с эталоном `VisitID` — кука × день, эталон читается
из `ods.event_v` ([модель сессии](dds/session.md));
- счётчики классов расхождений против описи мира — по дням с закрытым
окном;
окном. Проверка техническая, не урок DQ: её оракул — опись генератора,
а у настоящего магазина оракула нет. Обещание узкое и честное: до
витрин доехал тот мир, который родился, — одна растяжка через весь
путь вместо сторожей на каждом шаге. Верно ли сам мир рождён, она
не видит: опись считает тот же генератор;
- счётные сверки витрин стенда с их DDS-источниками.
Результаты ложатся в `dm.dq_summary`. Звено — не только сторож конвейера,
+5 -5
View File
@@ -16,11 +16,11 @@
артефакт мира. Побайтовое обещание («слепок переснимается и даёт те же
байты») опись начинает сторожить.
- **Счётчики классов расхождений — наблюдаемых, после приоритета**, по
итоговой судьбе заказов дня; единица счёта — заказ, и опись называет её
словом. Сойтись с запросом менти они могут только на днях с закрытым окном:
при N сыгранных днях таких N − 7 (день d закрывается слепком d + 6, а
последний отправленный слепок несёт день N − 2). Читатель у них придёт
этапом 4 — проверка сверки; не окажется читателя — та же бритва режет и их.
итоговой судьбе заказов дня. В строке закрытого дня поле `orders` хранит
число заказов каждого класса; пока окно открыто, поля нет. При N сыгранных
днях закрыты N − 7 (день d закрывается слепком d + 6, а последний
отправленный слепок несёт день N − 2). Их читатель — техническая
проверка `classes_vs_inventory` из DQ-звена этапа 4.
- **Контрольные числа идентичности не заводятся вовсе**: uniq известных
пользователей и число двухкуковых пар растут, пока мир едет, — опоры из них
не выходит; генератор сторожит хеш, транспорт — счёт событий.
+6 -3
View File
@@ -535,9 +535,12 @@ Kafka день переигрывается генератором заново:
- по строке на каждый отправленный слепок — хеш байтов: побайтовое обещание
«слепок переснимается и даёт те же байты» опись сторожит наравне с днями;
- заказная сторона: заказы, выручка и счётчики наблюдаемых классов
расхождений после приоритета, в заказах — по дням с закрытым окном
(самопроверка лабы сверки; при N сыгранных днях таких дней N − 7);
- заказная сторона: счётчики наблюдаемых классов расхождений после
приоритета; каждый показывает число заказов и хранится только для дня с
закрытым окном (читатель — техническая проверка `classes_vs_inventory`
звена DQ; при N сыгранных днях таких дней N − 7). Отдельных полей для
общего числа заказов и выручки в описи пока нет: для них не назван
читатель;
- контрольные числа идентичности не заводятся: uniq известных пользователей
и число двухкуковых покупателей растут, пока мир едет, а счётчик без
названного читателя в опись не кладётся
+2 -1
View File
@@ -86,7 +86,8 @@ D0 живёт предыстория, поэтому любой день соб
из контракта. Документ руками не правят — пересобирают.
- `src/clickstream_generator/inventory.py` — сборка описи мира
([`data/world-inventory.json`](../data/world-inventory.json)): паспорт мира
и хеши восьми дней, которыми наполняется стенд. Руками не правят —
и хеши восьми дней, которыми наполняется стенд, плюс счётчики классов
расхождений по заказам для дней с закрытым окном. Руками не правят —
пересобирают целью `make inventory`.
- `tests/` — инварианты контракта, свежесть описания и обещания мира:
чистота от зерна, приток, гарантия двухкуковых пар, форма суточной волны
@@ -1,10 +1,10 @@
"""Опись мира: чем стенд наполняется при подъёме и каким это обязано выйти.
Мир — чистая функция зерна (спека генератора, раздел 2), поэтому в git лежит не
он сам, а опись: паспорт мира, число событий по дням и хеш байтов каждого дня.
Сам мир пересчитывается когда угодно, а опись отвечает на единственный вопрос —
**тот ли это мир, что был вчера**. Разошлись хеши — мир уехал, и дальше уже
неважно, чего от него ждали проверки.
он сам, а опись: паспорт мира, число событий и хеш байтов каждого дня, счётчики
классов расхождений по заказам. Сам мир пересчитывается когда угодно, а опись
отвечает на единственный вопрос — **тот ли это мир, что был вчера**. Разошлись
хеши — мир уехал, и дальше уже неважно, чего от него ждали проверки.
Дней в описи восемь: столько заливается в стенд при `make up`. Понедельник по
понедельник — полная неделя с выходными и первый замкнутый цикл окна K = 7.
@@ -43,9 +43,9 @@ from importlib.metadata import version
from pathlib import Path
from typing import Any
from clickstream_generator import commerce, serialize, world
from clickstream_generator import day as day_module
from clickstream_generator import orders as orders_module
from clickstream_generator import serialize, world
from clickstream_generator.catalog import CATALOG_PATH
from clickstream_generator.seeds import CANONICAL_SEED
@@ -66,7 +66,10 @@ def build() -> dict[str, Any]:
orders = []
for number in range(STARTING_DAYS):
today = day_module.stream(CANONICAL_SEED, number)
days.append(_day(number, today))
row = _day(number, today)
if number < STARTING_DAYS - world.ORDER_WINDOW_DAYS:
row["orders"] = _order_class_counts(today)
days.append(row)
orders.append(today.orders)
return {
@@ -115,6 +118,25 @@ def _snapshot(number: int, orders: list[orders_module.Orders]) -> dict[str, Any]
}
def _order_class_counts(today: day_module.Day) -> dict[str, int]:
"""Заказы дня по итоговому классу: отмена перевешивает дельту суммы."""
purchase = today.columns["EventType"] == commerce.PURCHASE
declared = today.columns["purchaseRevenue"][purchase]
counts = {"match": 0, "cancelled": 0, "amount_delta": 0}
for outcome, items_total, revenue in zip(
today.orders.outcome, today.orders.items_total, declared, strict=True
):
if outcome != orders_module.OrderOutcome.PAID:
counts["cancelled"] += 1
elif items_total != round(revenue[0] * commerce.KOPECKS):
counts["amount_delta"] += 1
else:
counts["match"] += 1
return counts
def _date(number: int) -> str:
return (world.ORIGIN + timedelta(days=number)).isoformat()
+12
View File
@@ -17,7 +17,9 @@ from pathlib import Path
import pytest
from clickstream_generator import cli
from clickstream_generator import day as day_module
from clickstream_generator.inventory import STARTING_DAYS, build
from clickstream_generator.seeds import CANONICAL_SEED
INVENTORY_PATH = Path(__file__).resolve().parents[2] / "data" / "world-inventory.json"
@@ -41,6 +43,16 @@ def test_inventory_is_up_to_date(inventory: dict):
)
def test_order_class_counters_cover_only_closed_days(inventory: dict):
"""Итог заказа становится опорой только после закрытия его окна."""
rows = [row for row in inventory["days"] if "orders" in row]
assert [row["day"] for row in rows] == [0]
assert set(rows[0]["orders"]) == {"match", "cancelled", "amount_delta"}
today = day_module.stream(CANONICAL_SEED, rows[0]["day"])
assert sum(rows[0]["orders"].values()) == len(today.orders)
def test_the_inventory_holds_the_hash_of_every_sent_snapshot(inventory: dict, tmp_path):
"""У каждого отправленного слепка — своя строка с хешем его байтов.