feat(airflow): пробные DAG test_clickhouse и test_kafka вместо демонстрационного #19
@@ -67,6 +67,27 @@ Superset, создаёт администратора и импортирует
|
||||
останавливает Prometheus с Kafka. Общая проверка должна назвать Prometheus и
|
||||
оба пробника, после чего завершиться с ошибкой. В конце стенд восстанавливается.
|
||||
|
||||
### Какую проверку когда запускать
|
||||
|
||||
Проверки выстроены лесенкой: чем дороже прогон, тем больше связей он трогает.
|
||||
|
||||
- `make config-test` — секунды, стенд поднимать не нужно. Видит только то, что
|
||||
есть в файлах, и о работоспособности не говорит ничего. Дёшево настолько, что
|
||||
можно гонять перед каждым коммитом.
|
||||
- `make smoke` — минута-две на поднятом стенде. Дороже, но проверяет связи
|
||||
между службами, а не отдельные файлы: это интеграционная проверка.
|
||||
- `make smoke-cluster` — около минуты. Одна связь, зато до дна: межнодовое
|
||||
устройство ClickHouse.
|
||||
- `make smoke-guards` — около пяти минут, и отвечает на другой вопрос. Не
|
||||
«работает ли стенд», а «умеют ли проверки падать»: она намеренно ломает стенд
|
||||
и смотрит, покраснеет ли `make smoke` и назовёт ли виновника, потом чинит и
|
||||
убеждается, что стенд снова зелёный. Отсюда и три прогона `make smoke`
|
||||
внутри — до поломки, во время неё и после починки.
|
||||
|
||||
Обычный рабочий цикл — `make config-test` и `make smoke`. `make smoke-guards`
|
||||
нужна тому, кто правит сами проверки или пробники: без неё легко завести
|
||||
проверку, которая зелена всегда.
|
||||
|
||||
Остановить контейнеры без удаления данных можно командой `make down`. Для
|
||||
полного сброса с удалением всех именованных томов используйте `make clean`.
|
||||
Повторный `make up` безопасен: одноразовая подготовка приложений идемпотентна.
|
||||
|
||||
@@ -10,10 +10,14 @@ compose() {
|
||||
docker compose --project-directory "$ROOT_DIR" "$@"
|
||||
}
|
||||
|
||||
# Ввод закрыт намеренно: у запроса INSERT clickhouse-client дочитывает данные
|
||||
# из стандартного ввода и ждёт его конца. Если проверку запустили не из
|
||||
# терминала, а из фонового процесса с открытым вводом, конца не наступает
|
||||
# никогда, и команда висит без сообщений.
|
||||
query() {
|
||||
local service="$1"
|
||||
local sql="$2"
|
||||
compose exec -T "$service" clickhouse-client --query "$sql"
|
||||
compose exec -T "$service" clickhouse-client --query "$sql" </dev/null
|
||||
}
|
||||
|
||||
query_with_timeout() {
|
||||
|
||||
+86
-17
@@ -1,19 +1,72 @@
|
||||
#!/usr/bin/env bash
|
||||
# Сторож документации.
|
||||
#
|
||||
# README устаревает молча: порт поменяли в compose.yaml, а в описании остался
|
||||
# старый — и это выясняется через месяц, когда кто-то по нему подключается.
|
||||
# Здесь собраны утверждения README, которые дёшево проверить текстом и дорого
|
||||
# обнаружить сломанными. Стенд поднимать не нужно; запускается в составе
|
||||
# `make config-test`.
|
||||
#
|
||||
# Чего сторож НЕ делает: он не проверяет, что README понятен или полон. Только
|
||||
# то, что перечисленные ниже факты не разошлись с кодом.
|
||||
#
|
||||
# Добавляя проверку, формулируй утверждение так, как оно должно читаться в
|
||||
# отчёте: строка печатается и при успехе, и при провале, поэтому по красной
|
||||
# строке сразу видно, что именно перестало быть правдой.
|
||||
|
||||
set -euo pipefail
|
||||
|
||||
readonly ROOT_DIR="$(cd "$(dirname "${BASH_SOURCE[0]}")/.." && pwd)"
|
||||
readonly README="$ROOT_DIR/README.md"
|
||||
readonly SMOKE="$ROOT_DIR/scripts/stand-smoke.sh"
|
||||
passed=0
|
||||
|
||||
grep -Eq 'нода 1.*28123.*29000' "$README"
|
||||
fail() {
|
||||
printf 'ОШИБКА: %s\n' "$1" >&2
|
||||
exit 1
|
||||
}
|
||||
|
||||
# check «утверждение» команда... — запускает команду и считает результат.
|
||||
# Успех: «ЗЕЛЁНО: утверждение». Провал: «ОШИБКА: не подтвердилось: утверждение»
|
||||
# и выход с кодом 1. Раньше проверки падали через `set -e` молча: код возврата
|
||||
# был единственным следом, и какая именно проверка не прошла — не сообщалось.
|
||||
check() {
|
||||
local claim="$1"
|
||||
shift
|
||||
if "$@"; then
|
||||
passed=$((passed + 1))
|
||||
printf 'ЗЕЛЁНО: %s\n' "$claim"
|
||||
else
|
||||
fail "не подтвердилось: $claim"
|
||||
fi
|
||||
}
|
||||
|
||||
# Порты обеих нод. Ломается ровно тогда, когда порт поменяли в compose.yaml и
|
||||
# забыли документацию — самая частая причина расхождения.
|
||||
ports_documented() {
|
||||
grep -Eq 'нода 1.*28123.*29000' "$README" &&
|
||||
grep -Eq 'нода 2.*28124.*29001' "$README"
|
||||
printf 'ЗЕЛЁНО: README перечисляет HTTP- и нативные порты обеих нод.\n'
|
||||
}
|
||||
|
||||
# Совет про сброс томов. Пароли Postgres и Grafana применяются при создании
|
||||
# тома: без `make clean` смена значений в .env ничего не даёт, и человек
|
||||
# полчаса ищет, почему его не пускает.
|
||||
clean_advice_present() {
|
||||
grep -Eq 'После первого запуска.*`make clean`' "$README"
|
||||
printf 'ЗЕЛЁНО: README объясняет сброс томов после смены исходных учётных данных.\n'
|
||||
}
|
||||
|
||||
# Список портов остаётся единым списком. Совпадение точное намеренно: проверка
|
||||
# стережёт не сам факт (он проверен выше), а то, что строку не выдернули из
|
||||
# списка в отдельный абзац при правке соседнего текста.
|
||||
ports_stay_one_list() {
|
||||
grep -Fxq -- '- нода 2 — `http://127.0.0.1:28124`, нативный порт `29001`;' "$README"
|
||||
printf 'ЗЕЛЁНО: список портов остаётся единым списком.\n'
|
||||
}
|
||||
|
||||
# Состав `make config-test`. Разбор пробников добавлен в него отдельной
|
||||
# проверкой, и README должен называть её: иначе читатель считает, что дешёвая
|
||||
# ступень трогает только Compose, и гоняет полный стенд ради того, что видно
|
||||
# без него. Проверка стоит на двух соседних строках — см. ниже про перенос.
|
||||
probe_checks_documented() {
|
||||
awk '
|
||||
previous == "`make config-test` проверяет Compose, синтаксис Bash и Python, малые проверки" &&
|
||||
$0 == "логики пробников и пробельные ошибки в diff без запуска стенда." {
|
||||
@@ -22,8 +75,14 @@ awk '
|
||||
{previous = $0}
|
||||
END {exit !found}
|
||||
' "$README"
|
||||
printf 'ЗЕЛЁНО: README перечисляет малые проверки пробников в составе config-test.\n'
|
||||
}
|
||||
|
||||
# Урок из предшественника: `make up` не трогает уже созданные контейнеры, и
|
||||
# после правки настройки метрик серверы молча работают со старой
|
||||
# конфигурацией. README обязан требовать явный перезапуск. Проверка сверяет
|
||||
# две соседние строки целиком, а не подстроку: так фразу нельзя незаметно
|
||||
# разорвать переносом или переписать наполовину.
|
||||
restart_lesson_present() {
|
||||
awk '
|
||||
previous == "После изменения `infra/clickhouse/config.d/prometheus.xml` выполните" &&
|
||||
$0 == "`docker compose restart clickhouse-01 clickhouse-02`: обычный `make up` не" {
|
||||
@@ -32,17 +91,27 @@ awk '
|
||||
{previous = $0}
|
||||
END {exit !found}
|
||||
' "$README"
|
||||
printf 'ЗЕЛЁНО: README требует перезапуск ClickHouse после изменения настройки метрик.\n'
|
||||
}
|
||||
|
||||
grep_status=0
|
||||
grep -q '3,4 GB' "$ROOT_DIR/scripts/stand-smoke.sh" || grep_status=$?
|
||||
if [[ "$grep_status" -eq 0 ]]; then
|
||||
printf 'ОШИБКА: отчёт проверки использует латинское обозначение GB.\n' >&2
|
||||
exit 1
|
||||
elif [[ "$grep_status" -ne 1 ]]; then
|
||||
printf 'ОШИБКА: не удалось проверить обозначение единицы памяти.\n' >&2
|
||||
exit 1
|
||||
fi
|
||||
printf 'ЗЕЛЁНО: отчёт проверки использует русское обозначение ГБ.\n'
|
||||
# Единица памяти в отчёте проверки — русская «ГБ», а не латинская «GB»
|
||||
# (контракт языка из AGENTS.md). Здесь успех — это отсутствие образца, поэтому
|
||||
# код возврата grep разбирается вручную: 1 — не нашли, и это хорошо; 0 — нашли
|
||||
# латинское; больше 1 — сам grep не отработал, и молчать об этом нельзя.
|
||||
smoke_uses_russian_unit() {
|
||||
local status=0
|
||||
grep -q '3,4 GB' "$SMOKE" || status=$?
|
||||
case "$status" in
|
||||
1) return 0 ;;
|
||||
0) return 1 ;;
|
||||
*) fail "не удалось проверить обозначение единицы памяти в $SMOKE" ;;
|
||||
esac
|
||||
}
|
||||
|
||||
printf 'ИТОГ: пройдено 6, ошибок 0\n'
|
||||
check 'README перечисляет HTTP- и нативные порты обеих нод' ports_documented
|
||||
check 'README объясняет сброс томов после смены исходных учётных данных' clean_advice_present
|
||||
check 'список портов остаётся единым списком' ports_stay_one_list
|
||||
check 'README перечисляет малые проверки пробников в составе config-test' probe_checks_documented
|
||||
check 'README требует перезапуск ClickHouse после изменения настройки метрик' restart_lesson_present
|
||||
check 'отчёт проверки использует русское обозначение ГБ' smoke_uses_russian_unit
|
||||
|
||||
printf 'ИТОГ: пройдено %d, ошибок 0\n' "$passed"
|
||||
|
||||
Reference in New Issue
Block a user