refactor(airflow): пробник ClickHouse разбит на четыре задачи
Зачем: пробник был одной задачей — в интерфейсе Airflow один красный квадрат, а место отказа приходилось искать по журналу. Ручная машинерия проброса и сведения ошибок занимала больше места, чем сама проверка, и читатель продирался через неё раньше, чем понимал, что пробник проверяет. Пробники — единственный образец DAG в стенде, по ним будут писать остальные. Что: test_clickhouse разбит на prepare_tables, write_marker, read_from_node_2 и cleanup_tables; маркер и имя принявшей запись ноды едут между задачами через XCom строками. Снято сведение ошибок: except BaseException, ExceptionGroup, add_note и накопление ошибок в список; клиент каждая задача заводит общим помощником и закрывает в finally. Ноды описаны константой NODES парами «имя для человека — источник для запроса», булев переключатель и параллельные списки подписей ушли. Уборка идёт обычным правилом запуска, а не all_done: состояние запуска Airflow считает по концам графа, и уборка, отработавшая после отказа, покрасила бы в зелёный запуск с упавшей проверкой — решение записано в ADR 0003. Комментарии остались в четырёх местах: чтение ноды 2 через remote(), импорт клиента внутри функции, правило запуска уборки и автосоздание топика в test_kafka. Малые проверки: заглушка task принимает обе формы декоратора, проверка сведения ошибок заменена проверками уборки. Красный путь ищет образец по журналам всех задач последнего запуска, а не в одном самом свежем. Проверка: make config-test, make smoke (25 проверок) и make smoke-guards зелены. Разбитый пробник укладывается в 5 секунд из 120, отведённых run_airflow_probe, — предел не трогаем. Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This commit is contained in:
@@ -75,17 +75,20 @@ break_clickhouse_probe() {
|
||||
return 1
|
||||
}
|
||||
|
||||
# Пробник разбит на четыре задачи, и упасть может любая из них: поломка на ноде
|
||||
# 2 видна и проверке набора таблиц, и чтению маркера. Поэтому берём последний
|
||||
# каталог запуска целиком и ищем образец по журналам всех его задач.
|
||||
clickhouse_break_is_reported() {
|
||||
compose exec -T airflow-scheduler bash -ceu '
|
||||
latest="$(
|
||||
find /opt/airflow/logs/dag_id=test_clickhouse \
|
||||
-type f -name "attempt=1.log" -printf "%T@ %p\n" |
|
||||
-mindepth 1 -maxdepth 1 -type d -name "run_id=*" -printf "%T@ %p\n" |
|
||||
sort -nr |
|
||||
head -n 1
|
||||
)"
|
||||
latest="${latest#* }"
|
||||
test -n "$latest"
|
||||
grep -Eq \
|
||||
grep -Eqr --include="attempt=1.log" \
|
||||
"неверный набор таблиц на ноде 2|Unknown table expression identifier '\''default.airflow_probe_local'\''" \
|
||||
"$latest"
|
||||
'
|
||||
|
||||
Reference in New Issue
Block a user