feat(monitoring): add Grafana dashboard for ClickHouse
- Add Prometheus datasource provisioning config - Add Grafana dashboard provider configuration - Add ClickHouse Overview dashboard (JSON) - Update README.md with monitoring section and updated stack badge - Update docs/OPERATIONS.md with monitoring runbook Dashboard includes: - System Health: CPU, Memory Resident, Memory Code - Query Performance: queries/sec, active queries, failed queries - MergeTree Storage: parts count, merge rate Verified via Context7: ClickHouse Prometheus metrics use ClickHouseAsyncMetrics_*, ClickHouseMetrics_*, ClickHouseProfileEvents_* prefixes in v25.1. Access: - Grafana: http://localhost:3000 (admin/admin) - Prometheus: http://localhost:9090
This commit is contained in:
@@ -1,6 +1,6 @@
|
||||
# ClickHouse Mini DWH для кликстрима
|
||||
|
||||
[](./docker-compose.yml)
|
||||
[](./docker-compose.yml)
|
||||
[](./docs/ARCHITECTURE.md)
|
||||
[]()
|
||||
|
||||
@@ -228,6 +228,23 @@ flowchart LR
|
||||
|
||||
---
|
||||
|
||||
## Мониторинг инфраструктуры (Grafana + Prometheus)
|
||||
|
||||
Для оценки состояния ClickHouse доступен дашборд мониторинга:
|
||||
|
||||
1. Открыть Grafana: `http://localhost:3000` (admin/admin)
|
||||
2. Дашборд "ClickHouse Overview" загружается автоматически
|
||||
3. Проверить метрики Prometheus: `http://localhost:9090` → Status → Targets
|
||||
|
||||
Что отслеживается:
|
||||
- System Health: CPU, Memory (Resident/Code)
|
||||
- Query Performance: queries/sec, active queries, failed queries
|
||||
- MergeTree Storage: parts count, merge rate
|
||||
|
||||
Конфигурация provisioning находится в [`configs/grafana/provisioning/`](configs/grafana/provisioning/). Подробнее в [`docs/OPERATIONS.md`](docs/OPERATIONS.md#мониторинг).
|
||||
|
||||
---
|
||||
|
||||
## Частые проблемы
|
||||
|
||||
- `etl_pipeline` падает с сообщением про схему: сначала запустите `ddl_init`.
|
||||
@@ -241,14 +258,17 @@ flowchart LR
|
||||
## Статус проекта
|
||||
|
||||
Реализовано:
|
||||
- DAG `ddl_init`: последовательное применение DDL + проверка схемы.
|
||||
- DAG `kafka_load`: ingest из `.jsonl` в Kafka через `kafka-python` (параметры `limit`, `reset_topics`).
|
||||
- DAG `etl_pipeline`: precheck, ожидание данных в STG, batch-пересчёт ODS/DDS/DM, базовые проверки.
|
||||
- Устойчивость к "грязным" данным: ошибки парсинга сохраняются в ODS, а не валят ingest.
|
||||
- **Инфраструктура**: Kafka + ClickHouse + Airflow + Superset + Prometheus/Grafana
|
||||
- **Ingest**: DAG `ddl_init` (DDL + проверка схемы), DAG `kafka_load` (параметры `limit`, `reset_topics`)
|
||||
- **Трансформации**: DAG `etl_pipeline` (pre-check, batch STG→ODS→DDS→DM, валидация)
|
||||
- **Витрины**: VIEW в DM для бизнес-дашбордов (трафик, UTM, качество данных)
|
||||
- **Надёжность**: ошибки парсинга сохраняются в ODS, пайплайн не падает на "грязных" данных
|
||||
- **Мониторинг**: Prometheus скрейпит ClickHouse метрики, Grafana дашборд для визуализации
|
||||
|
||||
В планах (не требуется для MVP задания):
|
||||
- Инкрементальный batch (watermark вместо `full_refresh`).
|
||||
- DQ мониторинг по расписанию.
|
||||
- Инкрементальный batch (watermark вместо `full_refresh`)
|
||||
- DQ мониторинг по расписанию
|
||||
- Алерты в Grafana
|
||||
|
||||
---
|
||||
|
||||
|
||||
Reference in New Issue
Block a user