Мониторинг: справочник зоны — в набор документов #122
@@ -7,14 +7,17 @@
|
|||||||
Порогов и цветовых вердиктов на панелях нет: на дашборд смотрят глазами,
|
Порогов и цветовых вердиктов на панелях нет: на дашборд смотрят глазами,
|
||||||
красное и зелёное живёт в проверках и дагах DQ.
|
красное и зелёное живёт в проверках и дагах DQ.
|
||||||
|
|
||||||
| Панель | Откуда берёт | О чём отвечает |
|
Свой вопрос каждая панель называет заголовком прямо на экране. Здесь — только
|
||||||
|---|---|---|
|
источники: разговор ниже про них.
|
||||||
| Свежесть | `ods.event_dist`, `ods.order_dist` | сколько прошло с последней доехавшей строки |
|
|
||||||
| Поток | `stg.hits_raw_dist`, `stg.orders_raw_dist` | сколько строк приезжает в слой сырья |
|
| Панель | Откуда берёт |
|
||||||
| Брак | те же и `ods.*_errors_dist` | сколько приехавшего не разобралось и какая это доля |
|
|---|---|
|
||||||
| Сходимость | экспортёр Kafka и `stg.hits_raw_dist` | произведённое против приземлившегося |
|
| Свежесть | `ods.event_dist`, `ods.order_dist` |
|
||||||
| Отставание | `kafka_consumergroup_lag` | сколько сообщений не прочитано |
|
| Поток | `stg.hits_raw_dist`, `stg.orders_raw_dist` |
|
||||||
| Дневной слепок | `stg.orders_raw_dist` | какой слепок доехал, когда и после какой паузы |
|
| Брак | те же и `ods.*_errors_dist` |
|
||||||
|
| Сходимость | экспортёр Kafka и `stg.hits_raw_dist` |
|
||||||
|
| Отставание | `kafka_consumergroup_lag` |
|
||||||
|
| Дневной слепок | `stg.orders_raw_dist` |
|
||||||
|
|
||||||
## Почему слои у панелей разные
|
## Почему слои у панелей разные
|
||||||
|
|
||||||
@@ -51,13 +54,13 @@
|
|||||||
укладываются в минуты реального времени, и соседние дни мира помещаются в одно
|
укладываются в минуты реального времени, и соседние дни мира помещаются в одно
|
||||||
окно панели сами.
|
окно панели сами.
|
||||||
|
|
||||||
## Чтецов Kafka панели не читают
|
## Приземлившееся считают по слою сырья
|
||||||
|
|
||||||
`stg.hits_raw_kafka` и `stg.orders_raw_kafka` — таблицы движка Kafka, а не
|
Приземлившееся панели считают по `stg.*_raw_dist`, произведённое — по метрикам
|
||||||
хранилище: запрос из панели у второго забрал бы слепок себе и сдвинул офсеты
|
экспортёра. Таблицы движка Kafka `stg.hits_raw_kafka` и `stg.orders_raw_kafka`
|
||||||
(`kafka_commit_on_select`, см. `sql/ddl/10-stg-tables.sql`), а даг приёма
|
хранилищем не работают: у второго стоит `kafka_commit_on_select`
|
||||||
приехал бы к пустому топику. Приземлившееся панели считают по `stg.*_raw_dist`,
|
(`sql/ddl/10-stg-tables.sql`), и запрос из панели забрал бы слепок себе,
|
||||||
произведённое — по метрикам экспортёра.
|
сдвинул офсеты, а даг приёма приехал бы к пустому топику.
|
||||||
|
|
||||||
## Как считается сходимость
|
## Как считается сходимость
|
||||||
|
|
||||||
@@ -110,8 +113,6 @@ Kafka идёт чуть выше. Читается устойчивый разр
|
|||||||
`stg.hits_raw_rep` и `ods.event_errors_rep`, обе таблицы вернулись к нулю.
|
`stg.hits_raw_rep` и `ods.event_errors_rep`, обе таблицы вернулись к нулю.
|
||||||
- Сходимость: на живом потоке за двадцать пять минут медиана расхождения между
|
- Сходимость: на живом потоке за двадцать пять минут медиана расхождения между
|
||||||
рядами 3 %, худший столбец 11 % — на переломе потока, как и описано выше.
|
рядами 3 %, худший столбец 11 % — на переломе потока, как и описано выше.
|
||||||
Отказы тоже по замеру: `increase` расходился сильнее, а накопленный итог
|
|
||||||
пропадал целиком, стоило окну начаться раньше экспортёра.
|
|
||||||
- Свежесть реагирует на остановленный поток и возвращается. Через пять минут
|
- Свежесть реагирует на остановленный поток и возвращается. Через пять минут
|
||||||
после конца модельного дня панель показала 305 с у событий и 288 с у
|
после конца модельного дня панель показала 305 с у событий и 288 с у
|
||||||
заказов; стоило пустить следующий день, события вернулись к секунде.
|
заказов; стоило пустить следующий день, события вернулись к секунде.
|
||||||
|
|||||||
Reference in new issue
Block a user