ddmitry/local-transcriber
1
0
Fork 0
Code Issues 6 Pull Requests Actions Packages Projects Releases Wiki Activity

Параллельный запуск ASR и диаризации: политика и бюджет CPU #21

New Issue
Closed
opened 2026-08-14 14:17:22 +03:00 by ddmitry · 1 comment
ddmitry commented 2026-08-14 14:17:22 +03:00
Owner
Copy Link
Copy Source

Часть карты: Карта: диаризация спикеров в транскрипте (#8)

Question

Стоит ли запускать независимые проходы распознавания и диаризации параллельно,
и при каких условиях это быстрее и безопаснее последовательного режима?

Решение о пословной привязке сохраняет проходы независимыми до финального
сведения и поэтому не блокирует параллельность. На слабом Intel baseline
последовательная обработка часа занимает около 23 минут; идеальный нижний
предел ограничен диаризацией и составляет около 13,6 минуты, но прямого замера
параллельного режима нет.

Нужно определить:

  • политику для CPU+CPU, GPU+CPU и OpenVINO+CPU;
  • бюджет потоков и защиту от oversubscription: сейчас ONNX ASR не применяет
    проектный cpu_threads, а оба runtime могут занять все доступные ядра;
  • условия выбора последовательного режима и fallback при нехватке ресурсов;
  • входит ли параллельность в первую реализацию или остаётся оптимизацией после
    корректного последовательного baseline;
  • минимальный benchmark, после которого параллельный режим можно включать.

Ответ фиксирует политику оркестрации и критерий приёмки, но не реализует её.

Часть карты: [Карта: диаризация спикеров в транскрипте](https://git.dementev.space/ddmitry/local-transcriber/issues/8) (#8) ## Question Стоит ли запускать независимые проходы распознавания и диаризации параллельно, и при каких условиях это быстрее и безопаснее последовательного режима? Решение о пословной привязке сохраняет проходы независимыми до финального сведения и поэтому не блокирует параллельность. На слабом Intel baseline последовательная обработка часа занимает около 23 минут; идеальный нижний предел ограничен диаризацией и составляет около 13,6 минуты, но прямого замера параллельного режима нет. Нужно определить: - политику для CPU+CPU, GPU+CPU и OpenVINO+CPU; - бюджет потоков и защиту от oversubscription: сейчас ONNX ASR не применяет проектный `cpu_threads`, а оба runtime могут занять все доступные ядра; - условия выбора последовательного режима и fallback при нехватке ресурсов; - входит ли параллельность в первую реализацию или остаётся оптимизацией после корректного последовательного baseline; - минимальный benchmark, после которого параллельный режим можно включать. Ответ фиксирует политику оркестрации и критерий приёмки, но не реализует её.
ddmitry added the wayfinder:grilling label 2026-08-14 14:17:22 +03:00
ddmitry added a new dependency 2026-08-14 14:17:52 +03:00
#17 Свести решения карты в ADR и спеку
ddmitry self-assigned this 2026-08-14 15:06:00 +03:00
ddmitry commented 2026-08-14 15:16:46 +03:00
Author
Owner
Copy Link
Copy Source

Решение

Первая реализация использует только последовательный пайплайн для всех устройств:

  1. ASR;
  2. диаризация;
  3. сведение слов с разметкой говорящих;
  4. форматирование и запись Markdown.

ASR выполняется первым: при окончательной ошибке распознавания дорогая диаризация не запускается, а возможный GPU→CPU fallback завершается до её старта.

--threads=N — единый бюджет текущего CPU-прохода. Значение целиком получает сначала ASR, затем диаризация; делить его между ними не нужно, поскольку проходы не пересекаются. 0 оставляет дефолты библиотек. То, что ONNX ASR и OpenVINO сейчас не применяют этот параметр, остаётся существующим пробелом реализации, а не основанием для второй ручки.

Параллельного auto-режима и ресурсного fallback в первой реализации нет. Последовательный режим является baseline для CPU, CUDA и OpenVINO независимо от фактического устройства.

Будущая оптимизация

Создана отдельная задача #22, к которой возвращаемся только после реализации и стабилизации основного пайплайна. Параллельность допускается отдельно по фактическому классу устройств после benchmark на трёх записях: не менее 20% выигрыша end-to-end, идентичный результат, отсутствие OOM/крашей/новых fallback и приемлемый измеренный peak RSS. Первый кандидат — CUDA+CPU.

## Решение Первая реализация использует только последовательный пайплайн для всех устройств: 1. ASR; 2. диаризация; 3. сведение слов с разметкой говорящих; 4. форматирование и запись Markdown. ASR выполняется первым: при окончательной ошибке распознавания дорогая диаризация не запускается, а возможный GPU→CPU fallback завершается до её старта. `--threads=N` — единый бюджет текущего CPU-прохода. Значение целиком получает сначала ASR, затем диаризация; делить его между ними не нужно, поскольку проходы не пересекаются. `0` оставляет дефолты библиотек. То, что ONNX ASR и OpenVINO сейчас не применяют этот параметр, остаётся существующим пробелом реализации, а не основанием для второй ручки. Параллельного auto-режима и ресурсного fallback в первой реализации нет. Последовательный режим является baseline для CPU, CUDA и OpenVINO независимо от фактического устройства. ## Будущая оптимизация Создана отдельная задача #22, к которой возвращаемся только после реализации и стабилизации основного пайплайна. Параллельность допускается отдельно по фактическому классу устройств после benchmark на трёх записях: не менее 20% выигрыша end-to-end, идентичный результат, отсутствие OOM/крашей/новых fallback и приемлемый измеренный peak RSS. Первый кандидат — CUDA+CPU.
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels
needs-info
Ожидает дополнительной информации от автора
 needs-triage
Требует оценки сопровождающим
 ready-for-agent
Полностью описана и готова для автономного агента
 ready-for-human
Требует реализации человеком
 wayfinder:grilling
Тикет карты: решение через разговор по одному вопросу (HITL)
 wayfinder:map
Карта wayfinder: индекс решений и точка входа
 wayfinder:prototype
Тикет карты: дешёвый черновик, чтобы было на что реагировать (HITL)
 wayfinder:research
Тикет карты: чтение источников, итог — markdown-сводка (AFK)
 wayfinder:task
Тикет карты: ручная работа, разблокирующая решение
 wontfix
Выполняться не будет
No labels wayfinder:grilling
Milestone
No items
No Milestone
Projects
Clear projects
No projects
Assignees
Clear assignees
ddmitry (Dmitry Dementiev)
No Assignees ddmitry
1 Participants
Notifications
Due Date
No due date set.
Blocks
#17 Свести решения карты в ADR и спеку
ddmitry/local-transcriber
Depends on
#14 Выбрать единицу привязки спикера к тексту
ddmitry/local-transcriber
Reference: ddmitry/local-transcriber#21