refactor(config-test): срезан разбор Bash — он не ловил ничего #59
@@ -105,8 +105,8 @@ Kafka по той же причине спрашивают снаружи. Её
|
||||
описание кластера, макросы, связь с keeper, `ReplicatedMergeTree`,
|
||||
`Distributed`, очередь распределённых DDL и очистку временных таблиц.
|
||||
|
||||
`make config-test` проверяет Compose, синтаксис Bash и Python и пробельные
|
||||
ошибки в diff без запуска стенда.
|
||||
`make config-test` проверяет Compose, синтаксис файлов DAG и пробельные ошибки
|
||||
в diff без запуска стенда.
|
||||
|
||||
Обычный рабочий цикл — `make config-test` и `make smoke`; остальные цели гоняют
|
||||
тогда, когда правка их касается. Что утверждает каждая проверка, нужен ли ей
|
||||
|
||||
@@ -37,7 +37,7 @@ ClickHouse: строки в `ods.event` считает сам сервер и о
|
||||
| `make lint` | Код генератора отформатирован и проходит ruff | не нужен | 0,4 с |
|
||||
| `make typecheck` | Типы генератора сходятся (ty) | не нужен | 0,5 с |
|
||||
| `make test` | Генератор делает то, что обещает; схема события остаётся объявленным контрактом, а собранное из неё [описание выгрузки](../formats/clickstream-event.md) — свежим | не нужен | 40 с |
|
||||
| `make config-test` | Compose разбирается, Bash и Python синтаксически целы, в diff нет пробельных ошибок. О работоспособности не говорит ничего | не нужен | 1 с |
|
||||
| `make config-test` | Compose разбирается, файлы DAG синтаксически целы, в diff нет пробельных ошибок. О работоспособности не говорит ничего | не нужен | 1 с |
|
||||
| `make smoke` | Стенд **собран**: службы живы, порты отвечают, подключения настроены друг на друга. Вширь и по касательной к каждой службе. Единственная цель, которая здесь правда смоук | нужен | 8 с |
|
||||
| `make check-clickhouse` | Всё, что спрашивают **у ClickHouse** и он отвечает сам: макросы, шарды, реплики, путь в keeper, ключ шардирования, очередь распределённых DDL | нужен | 7 с |
|
||||
| `make check-services` | **Службы работают**: DAG запускается и доходит, топик создаётся и удаляется, Superset логинится и ходит в базу | нужен | 44 с |
|
||||
@@ -163,3 +163,12 @@ Superset, Prometheus и Grafana смоук стучится с машины в
|
||||
Семантика счётчиков Docker `OOMKilled` и `RestartCount`, на которой держится
|
||||
`check_containers_survived`, снята отдельными контейнерами и записана в
|
||||
ADR 0004, раздел «Что проверено».
|
||||
|
||||
Разбор Bash из `make config-test` срезан 6 августа 2026 года, и вместе с ним —
|
||||
двенадцать строк обхода репозитория со списком файлов. Проверка была сломана
|
||||
с рождения: `bash -n` со списком файлов разбирает только первый, остальные
|
||||
уходят ему в аргументы, — то есть из пяти скриптов проверялся один, и за всё
|
||||
время цели этого никто не заметил. Заводить её заново незачем: скрипты стенда
|
||||
запускаются с той же машины, и синтаксическая ошибка вылезает при первом же
|
||||
запуске с номером строки. Разбор файлов DAG остался и по другому основанию —
|
||||
их на машине не запускает никто.
|
||||
|
||||
+6
-14
@@ -4,7 +4,6 @@ set -euo pipefail
|
||||
readonly ROOT_DIR="$(cd "$(dirname "${BASH_SOURCE[0]}")/.." && pwd)"
|
||||
read -r -a COMPOSE_CMD <<<"${COMPOSE_BIN:-docker compose}"
|
||||
readonly CACHE_DIR="$(mktemp -d)"
|
||||
readonly SHELL_FILES_LIST="$CACHE_DIR/shell-files"
|
||||
|
||||
cleanup() {
|
||||
rm -rf "$CACHE_DIR"
|
||||
@@ -35,19 +34,12 @@ jq -e '
|
||||
any($service.volumes[]; .source == "airflow_auth" and .target == "/opt/airflow/auth") and
|
||||
any($service.volumes[]; .source == "airflow_logs" and .target == "/opt/airflow/logs")
|
||||
' >/dev/null <<<"$config_json"
|
||||
if ! find "$ROOT_DIR" \
|
||||
-path "$ROOT_DIR/.git" -prune -o \
|
||||
-type f -name '*.sh' -print0 >"$SHELL_FILES_LIST"; then
|
||||
printf 'ОШИБКА: не удалось получить список файлов Bash для проверки.\n' >&2
|
||||
exit 1
|
||||
fi
|
||||
mapfile -d '' -t shell_files <"$SHELL_FILES_LIST"
|
||||
if [[ "${#shell_files[@]}" -eq 0 ]]; then
|
||||
printf 'ОШИБКА: не найдено ни одного файла Bash для проверки.\n' >&2
|
||||
exit 1
|
||||
fi
|
||||
bash -n "${shell_files[@]}"
|
||||
# Файлы DAG на машине никто не запускает: их разбирает обработчик внутри
|
||||
# контейнера, и синтаксическая ошибка там всплывает не сообщением, а тем, что
|
||||
# DAG молча не появился в списке. Локальный разбор — единственная дешёвая
|
||||
# обратная связь. Скрипты стенда проверять так незачем: их запускают с этой же
|
||||
# машины, и ошибка вылезает при первом же запуске с номером строки.
|
||||
PYTHONPYCACHEPREFIX="$CACHE_DIR" uv run --no-project python -m compileall -q "$ROOT_DIR/dags"
|
||||
git -C "$ROOT_DIR" diff --check
|
||||
|
||||
printf 'ЗЕЛЁНО: Compose, Bash, Python и пробельные ошибки diff проверены.\n'
|
||||
printf 'ЗЕЛЁНО: Compose, Python и пробельные ошибки diff проверены.\n'
|
||||
|
||||
Reference in New Issue
Block a user