Compare commits
44
Commits
42f094ccb9
...
master
| Author | SHA1 | Date | |
|---|---|---|---|
  Dmitry DementievandClaude Opus 5
|
9b40e2b4c1 | ||
|
Dmitry DementievandClaude Opus 5
|
b315f60746 | ||
|
Dmitry DementievandClaude Opus 5
|
50787c6531 | ||
 ddmitry
|
328580abfb | ||
|
Dmitry DementievandClaude Opus 5
|
63307fed01 | ||
|
Dmitry DementievandClaude Opus 5
|
6f1064ccc4 | ||
|
Dmitry DementievandClaude Opus 5
|
f7c0ed9a8c | ||
|
Dmitry DementievandClaude Opus 5
|
a8241b1d6b | ||
|
Dmitry DementievandClaude Opus 5
|
0f8ecb5bd3 | ||
|
Dmitry DementievandClaude Opus 5
|
e22b2f1bae | ||
|
Dmitry DementievandClaude Opus 5
|
4dea7f4bc6 | ||
|
ddmitry
|
343a31b35b | ||
|
Dmitry Dementiev
|
a8b8a8c0c9 | ||
|
Dmitry Dementiev
|
453b5d9dfa | ||
|
Dmitry Dementiev
|
99ed5ed92f | ||
|
Dmitry Dementiev
|
937eafe8db | ||
|
Dmitry Dementiev
|
2b54f5bc9e | ||
|
Dmitry DementievandClaude Opus 5
|
671ac8e5c9 | ||
|
Dmitry DementievandClaude Opus 5
|
3860f52eb9 | ||
|
ddmitry
|
f3d0293120 | ||
|
Dmitry Dementiev
|
78960120fd | ||
|
Dmitry Dementiev
|
b8bb78103a | ||
|
Dmitry Dementiev
|
4c4a8be07b | ||
|
Dmitry Dementiev
|
d71aec4ab2 | ||
|
Dmitry Dementiev
|
0cd105927b | ||
|
Dmitry Dementiev
|
16e5372f2d | ||
|
ddmitry
|
7d672a7dc8 | ||
 Dmitriy Dementiev
|
2e30d668ce | ||
|
Dmitriy Dementiev
|
ef61ced2e5 | ||
|
ddmitry
|
5ec9c77dfa | ||
|
Dmitriy Dementiev
|
78f2a8aecc | ||
|
Dmitry Dementiev
|
e71b2d1668 | ||
|
Dmitry Dementiev
|
0f67da8acf | ||
|
ddmitry
|
28d0f37b82 | ||
|
Dmitry Dementiev
|
fa9908af6f | ||
|
ddmitry
|
f59efa51b7 | ||
|
Dmitry Dementiev
|
cca09aedde | ||
|
ddmitry
|
b2a2d7d7da | ||
|
Dmitry Dementiev
|
15f88b1de8 | ||
|
Dmitry Dementiev
|
89475b9b97 | ||
|
ddmitry
|
312153f4bc | ||
|
Dmitry Dementiev
|
249b970cc9 | ||
|
Dmitry Dementiev
|
38c99855e2 | ||
|
ddmitry
|
68fda7ee89 |
No files matched your search
+1
-1
@@ -7,4 +7,4 @@ dist/
|
||||
.codex
|
||||
.qwen/
|
||||
tmp
|
||||
.scratch/handoffs/
|
||||
/.scratch/
|
||||
@@ -5,6 +5,11 @@
|
||||
Не часть пакета: они опираются на `sherpa-onnx`, которого нет в зависимостях
|
||||
проекта, и живут в `.scratch/`, а не в `src/`.
|
||||
|
||||
Код этого каталога временно закреплен в Git: его используют несколько задач на
|
||||
нескольких компьютерах, пока идет исследование диаризации. Общее правило
|
||||
`/.scratch/` относится к новым локальным материалам; уже отслеживаемые файлы
|
||||
этого стенда продолжают версионироваться.
|
||||
|
||||
Результаты первого прогона описаны в
|
||||
[разведочном замере](../../docs/benchmarks/2026-08-12-diarization-feasibility.md).
|
||||
|
||||
|
||||
@@ -25,11 +25,12 @@ Package manager is **uv** (not pip). Build backend is hatchling.
|
||||
|
||||
```
|
||||
CLI (cli.py)
|
||||
→ config.py cascade: CLI arg → .transcriber.toml → device-aware default → hardcoded
|
||||
→ config.py cascade: CLI arg → .transcriber.toml (model/compute_type stay None for the module to resolve)
|
||||
→ utils.py detect_device(), validate files, expand globs (Windows workaround)
|
||||
→ context_menu.py Windows SendTo: Transcribe.cmd install/uninstall (--install-menu / --uninstall-menu)
|
||||
→ transcriber.py load_model() → get_backend(device) → ensure_model_available → create_model
|
||||
_transcribe_file() with mid-stream CUDA→CPU fallback
|
||||
→ transcriber.py Transcriber(ExecutionRequest): resolves auto + device defaults,
|
||||
get_backend(device) → ensure_model_available → create_model once per run,
|
||||
transcribe(file) per file; fallback and ExecutionInfo stay inside
|
||||
→ formatter.py segments → markdown with timestamps, paragraph grouping (>2s pause or >60s)
|
||||
```
|
||||
|
||||
@@ -47,19 +48,21 @@ Three backends implement the `Backend` Protocol (structural typing, no inheritan
|
||||
|
||||
### Key design decisions
|
||||
|
||||
- **Two-level fallback**: GPU→CPU at model load time AND mid-stream during transcription (GPU visible via nvidia-smi but insufficient VRAM).
|
||||
- **Execution module** (`Transcriber`): one owner per run for model handle, adapter, actual device and allowed GPU→CPU fallback (load time and mid-stream). Callers get `TranscribeResult` + `ExecutionInfo` (requested vs actual device, engine, model, compute type, threads, `runtime_info()` from the adapter for `--verbose`). Fallback is reachable only with `strict_device=False` (Python API): CLI explicit device is strict, `auto` is ONNX CPU.
|
||||
- **CUDA bootstrap** (`_cuda_bootstrap.py`): preloads `libcublas.so.12` via `ctypes.CDLL(RTLD_GLOBAL)` before importing ctranslate2, because pip's `nvidia-cublas-cu12` installs to a non-standard path and `LD_LIBRARY_PATH` can't be changed at runtime (glibc caches it).
|
||||
- **Batch mode**: 3-phase pipeline (prescan → load model once → transcribe all). `TranscribeFileResult` carries updated model/backend/device state between files.
|
||||
- **Device-aware defaults**: `compute_type` and `model` vary by device (float16 for CUDA, int8 for OpenVINO, float32 for CPU). Defined in `config.py` `DEVICE_DEFAULTS`.
|
||||
- **Batch mode**: 3-phase pipeline (prescan → create `Transcriber` → transcribe all). No state is carried between files by the CLI.
|
||||
- **Device-aware defaults**: `compute_type` and `model` vary by device (float16 for CUDA, int8 for OpenVINO, float32 for CPU). Defined in `config.py` `DEVICE_DEFAULTS`, applied by `Transcriber` when the request leaves them `None`.
|
||||
- **ONNX thread budget**: `--threads` sets `intra_op_num_threads` for both ASR and VAD sessions via `SessionOptions`; 0 keeps onnxruntime defaults.
|
||||
- **OpenVINO uses pre-quantized models** — `compute_type` selects which HF repo to download, not a runtime parameter.
|
||||
|
||||
## Testing
|
||||
|
||||
All tests mock backends — no real model downloads or transcription. Key test patterns:
|
||||
|
||||
- CLI tests: `typer.testing.CliRunner` + mocks for `load_config`, `detect_device`, `load_model`, `_transcribe_file`, `write_transcript`
|
||||
- `_single_patches()` — helper assembling standard happy-path mock set
|
||||
- `_make_result()` / `_make_tfr()` — factories for test data
|
||||
- CLI tests: `typer.testing.CliRunner` with the real `Transcriber` and a fake adapter patched at `local_transcriber.transcriber.get_backend`; `load_config`, `validate_input_file`, `write_transcript` mocked
|
||||
- `_cli_run()` — context manager assembling that standard set, yields `(backend, write_transcript)`
|
||||
- `_make_result()` / `_make_backend()` — factories for test data
|
||||
- Module tests (`test_transcriber.py`): `Transcriber` through its interface with `_make_run_backend()`; adapter tests patch the libraries (`onnx_asr.load_model`, `faster_whisper.WhisperModel`)
|
||||
|
||||
## Common tasks
|
||||
|
||||
@@ -79,7 +82,7 @@ All tests mock backends — no real model downloads or transcription. Key test p
|
||||
|
||||
### Issue tracker
|
||||
|
||||
Задачи ведутся в Gitea через `tea`; GitHub используется только как зеркало, внешние PR не входят в triage. См. `docs/agents/issue-tracker.md`.
|
||||
Задачи ведутся в Gitea через `tea`; внешние PR не входят в triage. См. `docs/agents/issue-tracker.md`.
|
||||
|
||||
### Triage labels
|
||||
|
||||
|
||||
@@ -1 +1,21 @@
|
||||
@AGENTS.md
|
||||
@AGENTS.md
|
||||
|
||||
# Стиль изложения
|
||||
|
||||
Пиши легко для чтения. Сокращай количество мыслей, а не количество слов, которыми выражена каждая мысль.
|
||||
Please remove all mannered prose.
|
||||
|
||||
# Выбрать подход и держаться его
|
||||
|
||||
Выбирая, как решать задачу, возьми один подход и доведи его до конца. Не пересматривай
|
||||
решение, пока не появится новая информация, которая прямо противоречит твоим
|
||||
рассуждениям. Если колеблешься между двумя подходами, выбери один и посмотри, куда он
|
||||
приведёт; свернуть можно позже, если выбранный не сработал.
|
||||
|
||||
# Для моделей Fable 5 и 5.1
|
||||
|
||||
При прочих равных экономь токены на правке файлов: когда результат не меняется, правь
|
||||
файл точечно, а не переписывай целиком.
|
||||
|
||||
Сначала про себя составь список того, что нужно дальше; затем в одном ответе запроси
|
||||
всё, что не зависит от результата другого запроса.
|
||||
+8
-8
@@ -43,25 +43,25 @@ tests/
|
||||
CLI (cli.py)
|
||||
→ config.py: загрузка .transcriber.toml, каскад дефолтов
|
||||
→ utils.py: валидация файлов, определение устройства
|
||||
→ transcriber.py: загрузка модели (с CUDA fallback), транскрипция
|
||||
→ transcriber.py: Transcriber — разрешение устройства, загрузка модели один раз на запуск, транскрипция, fallback
|
||||
→ formatter.py: сегменты → markdown с таймкодами
|
||||
→ запись результата
|
||||
```
|
||||
|
||||
## Ключевые архитектурные решения
|
||||
|
||||
- **CUDA fallback** — двухуровневый: при загрузке модели и при транскрипции (mid-stream). GPU может быть видна через nvidia-smi, но не иметь достаточно VRAM.
|
||||
- **Device-aware дефолты** — `compute_type` зависит от устройства (`float16`/`float32`). `float16` не работает на CPU, `float32` расточителен на GPU.
|
||||
- **Module выполнения** (`Transcriber` в `transcriber.py`) — один владелец модели, adapter'а и фактического исполнения на запуск. Fallback GPU→CPU (при загрузке и mid-stream) живёт внутри и доступен только при `strict_device=False` из Python API: явный device в CLI strict, `auto` — ONNX CPU.
|
||||
- **Device-aware дефолты** — `model` и `compute_type` без явного значения разрешаются по устройству при загрузке (`float16`/`float32`). `float16` не работает на CPU, `float32` расточителен на GPU.
|
||||
- **cuBLAS bootstrap** (`_cuda_bootstrap.py`) — preload через ctypes до импорта ctranslate2. pip-пакет `nvidia-cublas-cu12` ставит `.so` в нестандартное место, а `LD_LIBRARY_PATH` нельзя изменить в рантайме.
|
||||
- **Батч-режим** — 3 фазы (prescan → load model → transcribe). Модель загружается один раз (~2-5 сек), невалидные файлы отсеиваются до загрузки.
|
||||
- **Батч-режим** — 3 фазы (prescan → создание `Transcriber` → transcribe). Модель загружается один раз (~2-5 сек), невалидные файлы отсеиваются до загрузки; CLI не переносит состояние между файлами.
|
||||
- **Ручной glob в utils** — typer на Windows не раскрывает `*.mp4`, поэтому глобы обрабатываются явно.
|
||||
|
||||
## Тестирование
|
||||
|
||||
- Все CLI-тесты через `typer.testing.CliRunner` + моки (faster-whisper не вызывается)
|
||||
- Моки: `load_config`, `validate_input_file`, `detect_device`, `ensure_model_available`, `load_model`, `_transcribe_file`, `write_transcript`
|
||||
- Паттерн: `_single_patches()` — хелпер для стандартного happy-path набора моков
|
||||
- `_make_result()` / `_make_tfr()` — фабрики тестовых данных
|
||||
- Все CLI-тесты через `typer.testing.CliRunner` с настоящим `Transcriber` и fake adapter, подменённым в `local_transcriber.transcriber.get_backend` (библиотеки не вызываются)
|
||||
- Моки: `load_config`, `validate_input_file`, `write_transcript`
|
||||
- Паттерн: `_cli_run()` — контекстный менеджер стандартного набора, отдаёт `(backend, write_transcript)`
|
||||
- `_make_result()` / `_make_backend()` — фабрики тестовых данных
|
||||
|
||||
## Частые задачи
|
||||
|
||||
|
||||
@@ -8,7 +8,7 @@ transcribe meeting.mp4
|
||||
```
|
||||
|
||||
- **Полностью локально** — данные не покидают машину
|
||||
- **Авто-ускорение** — NVIDIA CUDA при наличии GPU, иначе ONNX на CPU
|
||||
- **ONNX на CPU по умолчанию** — CUDA и OpenVINO включаются явно
|
||||
- **Батч-режим** — обработка нескольких файлов за один вызов
|
||||
- **Разделение говорящих** — локальная диаризация по флагу `--diarize`
|
||||
- **Из проводника Windows** — пункт Transcribe в меню «Отправить» ([установка](#контекстное-меню-проводника-windows))
|
||||
@@ -26,26 +26,42 @@ curl -LsSf https://astral.sh/uv/install.sh | sh # Linux / macOS
|
||||
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex" # Windows
|
||||
```
|
||||
|
||||
**2. Установить transcriber:**
|
||||
После установки откройте новую консоль, чтобы перечитались переменные окружения.
|
||||
|
||||
**2. Установить transcriber.** Напрямую из git, без скачивания исходников:
|
||||
|
||||
```bash
|
||||
uv tool install git+https://git.dementev.space/ddmitry/local-transcriber.git
|
||||
uv tool install --python 3.13 git+https://github.com/dementev-dev/local-transcriber
|
||||
```
|
||||
|
||||
**3. Ускорение (ставится автоматически):**
|
||||
Или из клона репозитория (`<URL>` — адрес репозитория, из которого вы ставите):
|
||||
|
||||
- **NVIDIA CUDA** (GPU): если есть GPU — транскрипция в 5-10× быстрее
|
||||
- **Windows**: `winget install -e --id Nvidia.CUDA --version 12.9` (от администратора), перезапустить терминал
|
||||
- **Linux / WSL2**: работает из коробки (нужен только драйвер: `nvidia-smi`)
|
||||
- **Без NVIDIA GPU**: автоматически используется ONNX с GigaAM RNN-T на CPU.
|
||||
Эта модель понимает только русскую речь
|
||||
- **Другие языки без NVIDIA**: выбирайте Whisper явно —
|
||||
`--device openvino-cpu --model medium` на x86 или `--device cpu --model medium`
|
||||
на любой платформе
|
||||
- **OpenVINO** для Intel GPU или x86 CPU остаётся доступен через явный
|
||||
`--device openvino`, `--device openvino-gpu` или `--device openvino-cpu`
|
||||
```bash
|
||||
git clone <URL>
|
||||
cd local-transcriber
|
||||
uv tool install --python 3.13 .
|
||||
```
|
||||
|
||||
**4. Готово:**
|
||||
**3. Пункт `Transcribe` в меню «Отправить»** (Windows, по желанию):
|
||||
|
||||
```bash
|
||||
transcribe --install-menu
|
||||
```
|
||||
|
||||
Подробнее — в разделе [контекстное меню проводника](#контекстное-меню-проводника-windows).
|
||||
|
||||
**4. Выбор исполнения:**
|
||||
|
||||
- По умолчанию используется ONNX с GigaAM RNN-T на CPU, независимо от наличия
|
||||
NVIDIA. Эта модель понимает только русскую речь.
|
||||
- Для других языков выбирайте Whisper явно:
|
||||
`--device openvino-cpu --model medium` на x86 или `--device cpu --model medium`.
|
||||
- OpenVINO для Intel GPU или x86 CPU доступен через `--device openvino`,
|
||||
`--device openvino-gpu` или `--device openvino-cpu`.
|
||||
- Для NVIDIA установите дополнительные библиотеки и выберите CUDA явно:
|
||||
[подключение CUDA](#подключение-cuda).
|
||||
|
||||
**5. Готово:**
|
||||
|
||||
```bash
|
||||
transcribe meeting.mp4
|
||||
@@ -63,7 +79,14 @@ transcribe meeting.mp4
|
||||
**Обновление:**
|
||||
|
||||
```bash
|
||||
uv tool install --force git+https://git.dementev.space/ddmitry/local-transcriber.git
|
||||
uv tool install --python 3.13 --force git+https://github.com/dementev-dev/local-transcriber
|
||||
```
|
||||
|
||||
Или в папке со склонированным репозиторием:
|
||||
|
||||
```bash
|
||||
git pull
|
||||
uv tool install --python 3.13 --force .
|
||||
```
|
||||
|
||||
**Удаление:**
|
||||
@@ -107,17 +130,74 @@ HuggingFace Hub использует симлинки для экономии м
|
||||
|
||||
</details>
|
||||
|
||||
## Подключение CUDA
|
||||
|
||||
Обычная установка не требует NVIDIA-пакетов. Extra `cuda` добавляет cuBLAS
|
||||
в окружение приложения на Linux/WSL x86_64 и Windows x64. Полный системный
|
||||
CUDA Toolkit и ручная правка системного PATH для этого пути не нужны.
|
||||
Совместимые GPU и драйвер NVIDIA необходимы отдельно: extra не устанавливает
|
||||
драйвер и не исправляет несовместимость старой видеокарты.
|
||||
|
||||
Для установки из Git или подключения CUDA к уже установленной программе:
|
||||
|
||||
```bash
|
||||
uv tool install --python 3.13 --force "local-transcriber[cuda] @ git+https://github.com/dementev-dev/local-transcriber"
|
||||
```
|
||||
|
||||
Из клона репозитория:
|
||||
|
||||
```bash
|
||||
uv tool install --python 3.13 --force ".[cuda]"
|
||||
```
|
||||
|
||||
Для локальной разработки:
|
||||
|
||||
```bash
|
||||
uv sync --extra cuda
|
||||
uv run --extra cuda transcribe meeting.mp4 --device cuda
|
||||
```
|
||||
|
||||
После установки extra выберите CUDA при запуске:
|
||||
|
||||
```bash
|
||||
transcribe meeting.mp4 --device cuda
|
||||
```
|
||||
|
||||
Либо задайте в `.transcriber.toml`:
|
||||
|
||||
```toml
|
||||
device = "cuda"
|
||||
```
|
||||
|
||||
Установка extra сама по себе не меняет `auto`: он всегда использует ONNX CPU.
|
||||
Явная CUDA при ошибке завершает обработку с исходной причиной; для распознанных
|
||||
причин выводится подсказка. Молчаливого перехода на CPU нет. В батче ошибка
|
||||
учитывается для каждого файла.
|
||||
|
||||
На Windows нужен также [Visual C++ Runtime x64](https://aka.ms/vs/17/release/vc_redist.x64.exe).
|
||||
Состав DLL проверен для закреплённых версий CTranslate2 и cuBLAS;
|
||||
реальный прогон нового пути на Windows без Toolkit пока не выполнен.
|
||||
Подробности и ограничения проверки — [ADR-001](docs/adr/001-cuda-bootstrap.md).
|
||||
|
||||
При обновлении из старой установки:
|
||||
|
||||
- Для CPU повторите обычную команду `uv tool install` с `--force` без `[cuda]`.
|
||||
В окружении разработки выполните `uv sync` — прежняя обязательная cuBLAS будет удалена.
|
||||
- Для CUDA повторите соответствующую команду выше. Старый автоматический выбор
|
||||
по `nvidia-smi` больше не действует; сохраните `device = "cuda"` в конфиге
|
||||
либо передавайте `--device cuda`.
|
||||
|
||||
## Использование
|
||||
|
||||
```bash
|
||||
# Простой запуск (CUDA medium или ONNX GigaAM RNN-T, язык ru)
|
||||
# Простой запуск (ONNX GigaAM RNN-T на CPU, язык ru)
|
||||
transcribe meeting.mp4
|
||||
|
||||
# Указать язык
|
||||
transcribe lecture.mp3 --language en
|
||||
transcribe lecture.mp3 --device cpu --model medium --language en
|
||||
|
||||
# Максимальное качество на NVIDIA GPU
|
||||
transcribe podcast.wav --model large-v3 --compute-type float16
|
||||
transcribe podcast.wav --device cuda --model large-v3 --compute-type float16
|
||||
|
||||
# Максимальное качество на Intel GPU
|
||||
transcribe podcast.wav --model large-v3 --device openvino-gpu
|
||||
@@ -218,15 +298,32 @@ transcribe --uninstall-menu
|
||||
| Опция | Сокращение | По умолчанию | Описание |
|
||||
|-------|-----------|-------------|----------|
|
||||
| `--model` | `-m` | medium (CUDA) / gigaam-v3-e2e-rnnt (ONNX) | Модель распознавания |
|
||||
| `--language` | `-l` | `ru` | Язык (ru, en, auto и др.); автоматический профиль без NVIDIA понимает только русский |
|
||||
| `--language` | `-l` | `ru` | Язык (ru, en, auto и др.); автоматический профиль понимает только русский |
|
||||
| `--output` | `-o` | `<файл>-transcript.md` | Путь к выходному файлу |
|
||||
| `--device` | `-d` | `auto` | Устройство (auto, cpu, cuda, openvino, openvino-gpu, openvino-cpu, onnx) |
|
||||
| `--compute-type` | — | float16 (CUDA) / int8 (ONNX/OpenVINO) / float32 (CPU) | Тип вычислений |
|
||||
| `--threads` | `-t` | 0 (авто) | Потоки CPU (рекомендуется = число физ. ядер) |
|
||||
| `--diarize` | — | — | Разделить текст на реплики говорящих |
|
||||
| `--speakers` | — | авто | Ожидаемое число говорящих; включает `--diarize` |
|
||||
| `--threads` | `-t` | 0 (авто) | Потоки CPU (рекомендуется = число физ. ядер); для ONNX задаёт потоки и ASR, и VAD |
|
||||
| `--diarize` / `--no-diarize` | — | `false` | Включить или отключить разделение на реплики говорящих |
|
||||
| `--speakers` | — | авто | Ожидаемое число говорящих; включает диаризацию и несовместим с `--no-diarize` |
|
||||
| `--force` | `-f` | — | Перезаписать существующие транскрипты |
|
||||
| `--verbose` | `-v` | — | Подробный вывод |
|
||||
| `--verbose` | `-v` | — | Подробный вывод: сегменты по ходу, движок, потоки, версии runtime |
|
||||
|
||||
### Диагностика исполнения
|
||||
|
||||
Перед распознаванием программа печатает модель, устройство и тип вычислений,
|
||||
которые выбраны фактически: после `auto` это `onnx`, после `openvino` —
|
||||
`openvino-gpu` или `openvino-cpu`. Если после загрузки устройство оказалось
|
||||
не тем, что выбрано до неё (например, OpenVINO взял CPU вместо GPU),
|
||||
выводится строка `Запрошено ..., используется ...`.
|
||||
|
||||
С `--verbose` добавляются движок, бюджет потоков и версии runtime: для ONNX —
|
||||
`onnxruntime`, `onnx-asr`, доступные providers и те, что заданы сессиям ASR
|
||||
и VAD; для CUDA — `ctranslate2` и число видимых CUDA-устройств; для OpenVINO —
|
||||
версия и доступные устройства. Этих строк достаточно, чтобы разобрать проблему
|
||||
на чужой машине без доступа к записи: попросите прислать вывод с `--verbose`.
|
||||
|
||||
Наличие provider в списке доступных не означает, что распознавание идёт
|
||||
на GPU или NPU: сессии получают только явно заданный список, сейчас это CPU.
|
||||
|
||||
## Платформы
|
||||
|
||||
@@ -235,7 +332,7 @@ transcribe --uninstall-menu
|
||||
| CPU через ONNX | ✅ авто | ✅ авто | ✅ авто |
|
||||
| OpenVINO (x86 CPU) | ✅ явно | — | ✅ явно |
|
||||
| OpenVINO (Intel GPU) | ✅ явно | — | ✅ явно |
|
||||
| GPU (NVIDIA) | ✅ авто | — | ✅ (нужен CUDA 12) |
|
||||
| GPU (NVIDIA) | extra + явно (x86_64) | — | extra + явно (x64; прогон без Toolkit ожидается) |
|
||||
|
||||
Данные по macOS основаны на доступности пакетов onnxruntime: прогонов на этой
|
||||
платформе не было.
|
||||
@@ -244,9 +341,9 @@ transcribe --uninstall-menu
|
||||
<summary>Linux / WSL2</summary>
|
||||
|
||||
- **Intel GPU** (Arc, встроенная графика) работает из коробки через OpenVINO
|
||||
- **NVIDIA GPU** работает из коробки — cuBLAS ставится автоматически как зависимость
|
||||
- Нужен только драйвер NVIDIA (проверка: `nvidia-smi`)
|
||||
- На ARM (aarch64) cuBLAS через pip недоступен — нужен системный CUDA toolkit
|
||||
- **NVIDIA GPU**: [extra `cuda` и явный выбор](#подключение-cuda), отдельно совместимый драйвер
|
||||
- `nvidia-smi` проверяет наличие драйвера, но не доказывает совместимость GPU с runtime
|
||||
- CUDA extra на ARM (aarch64) этим проектом не поддерживается
|
||||
|
||||
</details>
|
||||
|
||||
@@ -263,13 +360,9 @@ transcribe --uninstall-menu
|
||||
|
||||
- CPU работает из коробки
|
||||
- **Intel GPU** (Arc, встроенная графика) работает из коробки через OpenVINO
|
||||
- Для **NVIDIA GPU** нужен **CUDA 12** (ctranslate2 4.7 не совместим с CUDA 11 и 13):
|
||||
```
|
||||
winget install -e --id Nvidia.CUDA --version 12.9
|
||||
```
|
||||
> `winget install` требует запуска от имени администратора (elevated terminal).
|
||||
> `uv tool install` работает без админа (ставит в пользовательскую директорию).
|
||||
- После установки CUDA перезапустите терминал
|
||||
- **NVIDIA GPU**: [extra `cuda` и явный выбор](#подключение-cuda), отдельно совместимый драйвер
|
||||
- Требуется Visual C++ Runtime x64; системный CUDA Toolkit не нужен для extra
|
||||
- Реальная транскрипция с extra без Toolkit пока не проверена на Windows
|
||||
|
||||
</details>
|
||||
|
||||
@@ -282,6 +375,7 @@ device = "openvino-cpu"
|
||||
model = "large-v3-turbo"
|
||||
compute_type = "int8"
|
||||
language = "ru"
|
||||
diarize = true
|
||||
```
|
||||
|
||||
Порядок поиска:
|
||||
@@ -289,9 +383,11 @@ language = "ru"
|
||||
2. `~/.config/transcriber/config.toml`
|
||||
|
||||
Приоритет: **CLI-аргумент > конфиг > device-aware дефолт > встроенный дефолт**.
|
||||
`--diarize` и `--no-diarize` позволяют переопределить `diarize` из конфига для
|
||||
отдельного запуска.
|
||||
|
||||
При `device = "auto"` выбирается CUDA, если доступен `nvidia-smi`, иначе ONNX.
|
||||
Явный `device` из CLI или конфига отключает этот автоматический выбор.
|
||||
При `device = "auto"` всегда выбирается ONNX CPU, даже если доступны
|
||||
`nvidia-smi` и extra `cuda`. Другие варианты выбираются явно из CLI или конфига.
|
||||
Каталоги моделей различаются между бэкендами, поэтому при закреплении `model`
|
||||
в конфиге рекомендуется явно закрепить и совместимый `device`. То же с языком:
|
||||
автоматический ONNX-профиль рассчитан на русскую речь, а для остальных языков
|
||||
@@ -308,9 +404,9 @@ language = "ru"
|
||||
## Модели и GPU
|
||||
|
||||
Рекомендации:
|
||||
- **По умолчанию без CUDA:** ONNX `gigaam-v3-e2e-rnnt` — читаемый русский текст с
|
||||
- **По умолчанию:** ONNX `gigaam-v3-e2e-rnnt` — читаемый русский текст с
|
||||
пунктуацией почти без потери скорости относительно сырого `gigaam-v3`
|
||||
- **Макс. качество (NVIDIA):** `large-v3` + `--compute-type float16`
|
||||
- **Макс. качество (NVIDIA):** `--device cuda --model large-v3 --compute-type float16`
|
||||
- **Макс. качество (Intel GPU):** `large-v3` + `--device openvino-gpu`
|
||||
- **Макс. скорость CPU (русский):** `--device onnx --model gigaam-v3` (17-29× RTF, без пунктуации; рекомендуется LLM-нормализация терминов после)
|
||||
- **Быстрый OpenVINO с низким WER:** `--device openvino-cpu --model large-v3-turbo --compute-type int8` (7,2× RTFx на контрольном Intel CPU; пунктуация может быть слабой)
|
||||
|
||||
+6
-6
@@ -49,7 +49,7 @@ transcribe <путь_к_файлу> [опции]
|
||||
--output, -o Путь к выходному файлу
|
||||
По умолчанию: <input_stem>-transcript.md
|
||||
--device, -d Устройство (auto|cpu|cuda|onnx|openvino|openvino-gpu|openvino-cpu)
|
||||
По умолчанию: auto (CUDA при наличии, иначе ONNX CPU)
|
||||
По умолчанию: auto (всегда ONNX CPU)
|
||||
--compute-type Тип вычислений
|
||||
По умолчанию: float16 (CUDA) / int8 (ONNX)
|
||||
--verbose, -v Подробный вывод (прогресс сегментов)
|
||||
@@ -103,7 +103,7 @@ transcribe <путь_к_файлу> [опции]
|
||||
|---------------------------|---------------------------------------|
|
||||
| RTX 3060 + large-v3 | ~10-15x (1 час аудио ≈ 4-6 мин) |
|
||||
| RTX 4050 + large-v3 | ~12-18x (1 час аудио ≈ 3-5 мин) |
|
||||
| Quadro M3000M + large-v3 | ~3-5x (1 час аудио ≈ 12-20 мин) |
|
||||
| Quadro M3000M + CUDA | Не поддерживается текущей сборкой; см. [совместимость](gpu.md#совместимость-gpu) |
|
||||
| CPU + ONNX GigaAM RNN-T | ~10-14x (1 час аудио ≈ 4-6 мин) |
|
||||
| CPU + OpenVINO Turbo INT8 | ~7-10x (1 час аудио ≈ 6-9 мин) |
|
||||
| CPU (modern) + large-v3 | ~0.5-1x (1 час аудио ≈ 60-120 мин) |
|
||||
@@ -115,7 +115,7 @@ transcribe <путь_к_файлу> [опции]
|
||||
|-------------------|-------|--------------------------|----------------------------|-------------------------|
|
||||
| RTX 3060 | 6 GB | ✅ | ✅ (впритык) | int8 — безопасный выбор |
|
||||
| RTX 4050 | 6 GB | ✅ | ✅ (впритык) | int8 — безопасный выбор |
|
||||
| Quadro M3000M | 4 GB | ✅ | ⚠️ может OOM | int8 обязательно |
|
||||
| Quadro M3000M | 4 GB | ❌ | ❌ | ONNX CPU или OpenVINO |
|
||||
| Без GPU | — | ONNX GigaAM INT8 | — | auto выбирает ONNX |
|
||||
|
||||
Device-aware дефолты выбирают `float16` для CUDA и `int8` для ONNX/OpenVINO.
|
||||
@@ -123,7 +123,7 @@ Device-aware дефолты выбирают `float16` для CUDA и `int8` д
|
||||
### 4.2. Требования к окружению
|
||||
|
||||
- Python ≥ 3.13
|
||||
- Для GPU: Linux/WSL2 — cuBLAS из nvidia-cublas-cu12 (ставится автоматически через `uv sync`); Windows — системный CUDA toolkit (см. ADR-001)
|
||||
- Для NVIDIA GPU на Linux/WSL x86_64 и Windows x64: совместимый драйвер, extra `cuda` и явный выбор CUDA (см. ADR-001); Windows также требует Visual C++ Runtime x64
|
||||
- Дисковое пространство для моделей: зависит от выбранного backend и модели
|
||||
- Выходные файлы: UTF-8 (явная кодировка при записи)
|
||||
|
||||
@@ -177,9 +177,9 @@ local-transcriber/
|
||||
| Качество распознавания русского текста | Среднее | large-v3 хорошо справляется с ru; при проблемах — попробовать `--language ru` вместо auto |
|
||||
| Нет разделения по спикерам | Низкое | Осознанно выведено за скоуп MVP; добавление diarization (pyannote.audio) — возможное расширение |
|
||||
| Первый запуск: долгая загрузка модели | Низкое | Прогресс-бар при скачивании; модели кешируются в `~/.cache/huggingface/` |
|
||||
| CUDA несовместимость на Windows | Среднее | Автоматический fallback на CPU + предупреждение; в README — инструкция по CUDA |
|
||||
| CUDA несовместимость на Windows | Среднее | Явная CUDA сохраняет причину ошибки; пользователь выбирает CPU или исправляет окружение по README |
|
||||
| Большие файлы (>2 часов) | Среднее | Учитывать память выбранного backend; чанкование рассматривается отдельно |
|
||||
| OOM на GPU с 4 GB VRAM | Среднее | CUDA использует float16; при OOM — fallback на CPU с предупреждением или явный более лёгкий профиль |
|
||||
| OOM на GPU с 4 GB VRAM | Среднее | CUDA использует float16; при OOM явной CUDA — ошибка с подсказкой выбрать меньшую модель или CPU |
|
||||
| Файл без речи (тишина, музыка, шум) | Низкое | Создаётся транскрипт с шапкой метаданных и `*Речь не обнаружена.*` в теле + предупреждение в stderr |
|
||||
|
||||
## 7. Вне скоупа MVP
|
||||
|
||||
+108
-52
@@ -1,78 +1,134 @@
|
||||
# ADR-001: Preload libcublas из pip-пакета для GPU на Linux/WSL2
|
||||
# ADR-001: Необязательная CUDA и загрузка cuBLAS из окружения
|
||||
|
||||
**Статус**: Принято
|
||||
**Статус**: Принято; пересмотр обязательной cuBLAS от 2026-03-18
|
||||
**Дата**: 2026-03-18
|
||||
**Обновлено**: 2026-09-21, задача [#2](https://git.dementev.space/ddmitry/local-transcriber/issues/2)
|
||||
|
||||
## Контекст
|
||||
|
||||
ctranslate2 (backend faster-whisper) в runtime делает `dlopen("libcublas.so.12")`,
|
||||
но не бандлит эту библиотеку в свой wheel — ожидает её в системе.
|
||||
Без установленного CUDA toolkit `uv run transcribe --device cuda` падает с ошибкой.
|
||||
CTranslate2 загружает cuBLAS динамически и не поставляет её в своём wheel.
|
||||
Прежняя обязательная зависимость добавляла около 581 MB скачивания на Linux
|
||||
x86_64, даже если пользователь работал только через ONNX CPU.
|
||||
Наличие `nvidia-smi` доказывает наличие утилиты драйвера, но не совместимость GPU
|
||||
с runtime. Автоматический выбор CUDA мог приводить к ошибке на старом GPU.
|
||||
|
||||
Ключевые факты:
|
||||
- `libcuda.so.1` приходит от NVIDIA driver (всегда есть, если GPU есть)
|
||||
- `libcublas.so.12` отсутствует в wheel ctranslate2 на обеих платформах
|
||||
- **cuDNN не нужен** — в `libctranslate2.so` ноль символов cudnn (проверено `nm -D` и `strings`)
|
||||
- На Windows ctranslate2 делает `os.add_dll_directory` в своём `__init__.py`,
|
||||
но только для DLL внутри пакета; `cublas64_12.dll` тоже не бандлится
|
||||
Прежнее утверждение о недоступности Windows wheel `nvidia-cublas-cu12` было
|
||||
ошибочным: такой wheel есть и для закреплённой версии 12.9.1.4. Следовательно,
|
||||
системный CUDA Toolkit не должен быть обязательным способом подключения Windows.
|
||||
|
||||
## Решение
|
||||
|
||||
### nvidia-cublas-cu12 как pip-зависимость
|
||||
CUDA подключается через extra `cuda` на Linux/WSL x86_64 и Windows x64.
|
||||
Драйвер NVIDIA остаётся внешним требованием; Windows также требует Visual C++
|
||||
Runtime x64. Установка extra не включает CUDA: пользователь выбирает её через
|
||||
CLI или TOML. `auto` всегда выбирает ONNX CPU, ASR и VAD получают явный
|
||||
`CPUExecutionProvider`. Команды установки и обновления — в
|
||||
[README](../../README.md#подключение-cuda).
|
||||
|
||||
В `pyproject.toml`:
|
||||
```
|
||||
"nvidia-cublas-cu12>=12.4; sys_platform == 'linux' and platform_machine == 'x86_64'"
|
||||
```
|
||||
CTranslate2 4.8.1 и cuBLAS 12.9.1.4 закреплены в `pyproject.toml`, чтобы
|
||||
установка через `uv tool` и из клона использовала проверенное сочетание.
|
||||
В cuBLAS 12.9.2.10 появилась дополнительная зависимость NVRTC. Обновление
|
||||
версий требует повторной проверки библиотек и bootstrap; одного обновления
|
||||
lock-файла недостаточно.
|
||||
|
||||
Нижняя граница `>=12.4` — ctranslate2 собран с CUDA 12.4. Пакет доступен только
|
||||
для Linux x86_64 (на Windows и macOS не устанавливается по platform marker).
|
||||
### Linux: preload по полному пути
|
||||
|
||||
### ctypes.CDLL preload вместо LD_LIBRARY_PATH
|
||||
`_cuda_bootstrap.py` загружает `libcublas.so.12` через `ctypes.CDLL` с
|
||||
`RTLD_GLOBAL`. Линкер затем разрешает запрос CTranslate2 по soname.
|
||||
Изменение `LD_LIBRARY_PATH` внутри процесса не решает задачу: glibc кеширует
|
||||
пути поиска. Путь optional-пакета определяется через `nvidia.cublas.__path__`,
|
||||
что поддерживает namespace package без `__file__`.
|
||||
|
||||
`_cuda_bootstrap.py` загружает `libcublas.so.12` по полному пути через
|
||||
`ctypes.CDLL(path, mode=RTLD_GLOBAL)` **до** первого `import ctranslate2`.
|
||||
### Windows: регистрация каталога и preload DLL
|
||||
|
||||
Почему не `os.environ["LD_LIBRARY_PATH"]`: на Linux/glibc динамический линкер (`ld.so`)
|
||||
кеширует пути поиска при старте процесса и **не перечитывает** `LD_LIBRARY_PATH`
|
||||
из environ в рамках уже запущенного процесса.
|
||||
Bootstrap регистрирует `nvidia/cublas/bin` через `os.add_dll_directory`, затем
|
||||
загружает по абсолютным путям сначала `cublasLt64_12.dll`, затем
|
||||
`cublas64_12.dll`. Handles библиотек и регистрации каталога хранятся до
|
||||
завершения процесса. Повторный вызов не загружает их заново. Это обеспечивает
|
||||
доступность уже загруженных DLL для динамического загрузчика CTranslate2 и
|
||||
не требует изменения системного PATH.
|
||||
|
||||
Почему `RTLD_GLOBAL`: без этого флага символы cublas не видны другим `.so`,
|
||||
загруженным позже (в т.ч. `libctranslate2.so`).
|
||||
Bootstrap вызывается только при создании CUDA-модели, до локального импорта
|
||||
`WhisperModel`. Если CTranslate2 ранее импортирован для декодирования аудио,
|
||||
preload всё равно выполняется до создания CUDA-модели. CPU-путь bootstrap не
|
||||
вызывает. Отсутствие optional-пакета безопасно: системная cuBLAS всё ещё может
|
||||
обслужить явно выбранную CUDA. Ошибка загрузки найденной Windows DLL сохраняется.
|
||||
|
||||
Динамический линкер кеширует загруженные библиотеки по soname — когда ctranslate2
|
||||
потом вызовет `dlopen("libcublas.so.12")`, линкер вернёт уже загруженный handle.
|
||||
### Ошибки и явный выбор
|
||||
|
||||
### strict_device для явного --device
|
||||
Явный `device` из CLI или TOML передаёт `strict_device=True` при загрузке и
|
||||
транскрипции. CUDA не заменяется молча на CPU. Подсказки различают отсутствие
|
||||
библиотек, проблемы драйвера, несовместимость GPU/runtime и нехватку памяти;
|
||||
отказ по неподдерживаемому типу вычислений учитывает устройство, чтобы
|
||||
одинаковая ошибка CTranslate2 на CPU не получала CUDA-подсказку. Исходное
|
||||
сообщение сохраняется. Неизвестная ошибка не получает произвольный
|
||||
совет установить Toolkit. Это одинаково для одного файла и батча.
|
||||
|
||||
`--device cuda` / `--device cpu` → `strict_device=True` → CUDA-ошибка = raise, без fallback.
|
||||
`--device auto` → `strict_device=False` → текущее поведение с fallback на CPU.
|
||||
Прежний механизм fallback оркестратора при `strict_device=False` сохранён
|
||||
для существующих программных callers. Автоматический CLI-путь теперь ONNX,
|
||||
поэтому он не попадает в CUDA fallback.
|
||||
|
||||
Мотивация: silent fallback для часового файла = 60 минут вместо 5.
|
||||
## Проверка зависимостей Windows
|
||||
|
||||
## Последствия и tradeoffs
|
||||
Статическая проверка 2026-09-21: скачаны wheels из PyPI, проверены SHA-256,
|
||||
для DLL/PYD прочитаны PE imports через `objdump -p` и строки динамической
|
||||
загрузки. Модели распознавания не скачивались.
|
||||
|
||||
**~400 MB на CPU-only Linux x86_64**: nvidia-cublas-cu12 ставится на все Linux x86_64,
|
||||
включая машины без GPU. Bootstrap при этом preload'ит libcublas (overhead ~1 ms),
|
||||
но она не используется, т.к. ctranslate2 не получит запрос на CUDA device.
|
||||
- `ctranslate2-4.8.1-cp313-cp313-win_amd64.whl`, SHA-256
|
||||
`d52499f05a60a791aeadee28d609efa130142f376d1ea76b2b1c593bb01f8827`.
|
||||
`ctranslate2.dll` содержит имена `cublas64_12.dll` и `nvcuda.dll`;
|
||||
ссылок на cuDNN и динамическую cudart в этой DLL не обнаружено.
|
||||
В wheel есть `cudnn64_9.dll`, но её наличие не означает использование
|
||||
cuDNN проверенной рабочей DLL. OpenMP DLL поставляется внутри wheel;
|
||||
импорты MSVCP/VCRUNTIME требуют Visual C++ Runtime.
|
||||
- `nvidia_cublas_cu12-12.9.1.4-py3-none-win_amd64.whl`, SHA-256
|
||||
`1e5fee10662e6e52bd71dec533fbbd4971bb70a5f24f3bc3793e5c2e9dc640bf`.
|
||||
DLL находятся в `nvidia/cublas/bin`. cuBLAS импортирует cuBLAS Lt и
|
||||
KERNEL32; cuBLAS Lt импортирует KERNEL32. В строках cuBLAS Lt также найдена
|
||||
динамическая ссылка на `nvrtc64_120_0.dll`, которой нет в PE imports.
|
||||
Обязательность NVRTC для Whisper этим статическим анализом не установлена;
|
||||
первый реальный Windows-прогон должен проверить и этот путь загрузки.
|
||||
`nvblas64_12.dll` не требуется проверенному пути CTranslate2.
|
||||
|
||||
Альтернатива — `[project.optional-dependencies]` + `uv sync --extra cuda`,
|
||||
но тогда теряется zero-config UX. Для v1 оставляем как обязательную зависимость.
|
||||
Основания: [CTranslate2 4.8.1 на PyPI](https://pypi.org/project/ctranslate2/4.8.1/#files),
|
||||
[cuBLAS 12.9.1.4 на PyPI](https://pypi.org/project/nvidia-cublas-cu12/12.9.1.4/#files),
|
||||
[загрузчик CTranslate2](https://github.com/OpenNMT/CTranslate2/blob/v4.8.1/python/ctranslate2/__init__.py),
|
||||
[метаданные cuBLAS 12.9.2.10](https://pypi.org/pypi/nvidia-cublas-cu12/12.9.2.10/json).
|
||||
|
||||
**Windows GPU**: nvidia-cublas-cu12 недоступен как pip-пакет для Windows.
|
||||
Единственный путь — системный CUDA toolkit (`choco install cuda` / `winget install -e --id Nvidia.CUDA`).
|
||||
CLI выводит эту подсказку при CUDA-ошибке на `sys.platform == "win32"`.
|
||||
Это обоснование состава extra для конкретных wheels, а не подтверждение
|
||||
транскрипции на Windows GPU. Реальный прогон Windows x64 с драйвером и extra,
|
||||
без Toolkit и ручной правки PATH, **не выполнен**. Linux-тесты с подменой
|
||||
Windows API не заменяют такую проверку.
|
||||
|
||||
**Namespace package**: `nvidia.cublas` — namespace package (`__file__` is `None`),
|
||||
для определения директории используется `__path__[0]`, а не `__file__`.
|
||||
## Проверка поставки и поведения
|
||||
|
||||
## Отклонённые альтернативы
|
||||
На Linux выполнены `uv run pytest`: 524 passed, 2 skipped. Пропуски —
|
||||
Windows-only кодировка OEM и интеграционный bootstrap без optional-пакета.
|
||||
До удаления cuBLAS интеграционный тест Linux bootstrap проходил.
|
||||
Обычный `uv sync --locked` удаляет прежнюю обязательную cuBLAS;
|
||||
`uv sync --extra cuda --locked --dry-run` возвращает её в план установки.
|
||||
|
||||
| Альтернатива | Почему отклонена |
|
||||
|---|---|
|
||||
| `nvidia-cudnn-cu12` в зависимостях | ctranslate2 не использует cuDNN — ноль символов, проверено через `nm -D` |
|
||||
| Self-reexec с `LD_LIBRARY_PATH` | ctypes.CDLL решает задачу без перезапуска процесса; self-reexec создаёт проблемы с сигналами, tty, fd |
|
||||
| `os.environ["LD_LIBRARY_PATH"] += ...` | glibc кеширует пути при старте, не перечитывает environ |
|
||||
| `DeviceResolution` dataclass + `resolve_device()` | Один `bool strict_device` решает ту же задачу проще |
|
||||
| ctranslate2 preflight (`get_supported_compute_types`) | Латентность; try/catch при загрузке модели не хуже |
|
||||
| Bootstrap console_scripts entrypoint | Не нужен — достаточно вызова в начале `transcriber.py` |
|
||||
Метаданные собранного wheel проверены для 12 сочетаний платформы, архитектуры
|
||||
и extra. Полное разрешение зависимостей wheel через `uv pip compile` для Linux
|
||||
и Windows, с extra и без, подтверждает отсутствие NVIDIA-пакетов в обычной
|
||||
установке и наличие только cuBLAS 12.9.1.4 при выборе extra.
|
||||
|
||||
Формы `uv tool install` для клона, клона с extra и именованной Git-зависимости
|
||||
с extra проверены в отдельном временном каталоге tools. Для проверки самой
|
||||
команды зависимости были исключены; их разрешение проверено отдельно выше.
|
||||
Git-транспорт проверялся через локальный репозиторий и ветку реализации,
|
||||
а не через ещё не опубликованную ветку на сервере. Версия uv — 0.12.17.
|
||||
|
||||
## Последствия и альтернативы
|
||||
|
||||
- Обычная установка не требует NVIDIA-пакетов. FasterWhisper CPU сохраняется.
|
||||
- Дополнительные библиотеки скачиваются только по выбору пользователя.
|
||||
- Единый extra заменяет требование установить полный Toolkit на Windows;
|
||||
существующая системная установка библиотек остаётся допустимой.
|
||||
- Отклонено сохранение обязательной cuBLAS ради готовности CUDA сразу после
|
||||
установки: это увеличивает CPU-установку и не решает несовместимость GPU.
|
||||
- Отклонено автоматическое включение CUDA по драйверу или extra: установка
|
||||
библиотек не должна менять движок и модель по умолчанию.
|
||||
- Перезапуск процесса с `LD_LIBRARY_PATH` не нужен; явная загрузка библиотек
|
||||
решает проблему без изменения обработки сигналов и файловых дескрипторов.
|
||||
- CUDA extra на Windows ARM64, Linux ARM и macOS в эту задачу не входит.
|
||||
@@ -2,6 +2,7 @@
|
||||
|
||||
**Статус**: Принято
|
||||
**Дата**: 2026-03-18
|
||||
**Обновлено**: 2026-09-21 — решения 2 и 4 пересмотрены (см. пометки)
|
||||
|
||||
## Контекст
|
||||
|
||||
@@ -17,19 +18,23 @@
|
||||
|
||||
**Почему**: загрузка модели (large-v3) занимает ~10 секунд и ~3 GB RAM/VRAM. Повторный запуск по уже обработанным файлам должен быть дешёвым no-op.
|
||||
|
||||
### 2. TranscribeFileResult: возврат обновлённого состояния модели
|
||||
### 2. Состояние модели между файлами
|
||||
|
||||
При mid-stream CUDA fallback `_transcribe_file()` перезагружает модель на CPU внутри себя. Чтобы следующие файлы в батче не грузили модель повторно, результат включает обновлённые `model` и `actual_device`.
|
||||
**Пересмотрено 2026-09-21.** Исходное решение: `_transcribe_file()` возвращал
|
||||
`TranscribeFileResult` с обновлёнными `model`, `backend`, `model_path`
|
||||
и `actual_device`, а CLI переносил их в следующий файл после mid-stream
|
||||
fallback. Это делало caller владельцем согласованности четырёх полей.
|
||||
|
||||
```python
|
||||
@dataclass
|
||||
class TranscribeFileResult:
|
||||
result: TranscribeResult
|
||||
model: WhisperModel # может измениться при fallback
|
||||
actual_device: str # может измениться при fallback
|
||||
```
|
||||
Теперь состояние не покидает module выполнения: `Transcriber` создаётся один
|
||||
раз на запуск после prescan, загружает модель при первом файле и сам держит
|
||||
загруженную модель, adapter и фактическое исполнение. Fallback меняет
|
||||
состояние внутри module, и следующий файл батча идёт уже по нему. Caller
|
||||
получает `TranscribeResult` и `ExecutionInfo` (запрошенное и выбранное
|
||||
исполнение, движок, модель, квантизация, потоки, версии runtime).
|
||||
|
||||
**Альтернатива**: передавать модель по ссылке через mutable контейнер — менее явно и сложнее тестировать.
|
||||
**Альтернатива**: mutable-контейнер с моделью, передаваемый по ссылке, —
|
||||
отклонена тогда же; owner-объект решает ту же задачу явно и тестируется
|
||||
через свой interface.
|
||||
|
||||
### 3. Конфиг: CWD → глобальный, без мержа
|
||||
|
||||
@@ -43,15 +48,18 @@ class TranscribeFileResult:
|
||||
|
||||
**Приоритет значений**: CLI > конфиг > хардкод.
|
||||
|
||||
### 4. `_transcribe_file()` — внутренний helper
|
||||
### 4. Публичный `transcribe()` — путь одного файла
|
||||
|
||||
Публичный API (`transcribe()`) сохранён без изменений. Новая функция `_transcribe_file()` — внутренний helper с префиксом `_`, не часть публичного контракта.
|
||||
|
||||
`transcribe()` стала тонкой обёрткой: `load_model()` + `_transcribe_file()` → `TranscribeResult`.
|
||||
**Пересмотрено 2026-09-21.** Внутренние helpers `load_model()`
|
||||
и `_transcribe_file()` удалены. `transcribe()` сохранён и стал обёрткой над
|
||||
тем же `Transcriber`: `model_name` и `compute_type` без значения берут
|
||||
умолчания выбранного исполнения, `device="auto"` означает ONNX CPU, как в CLI.
|
||||
|
||||
## Последствия
|
||||
|
||||
- Обратная совместимость CLI: `transcribe file.mp4` работает как раньше
|
||||
- Все существующие тесты проходят без изменений сигнатур
|
||||
- Batch mode: модель загружается один раз для всех файлов
|
||||
- Batch mode: модель загружается один раз для всех файлов; CLI не переносит
|
||||
состояние между файлами
|
||||
- Fallback из CLI недостижим: явный device — strict, `auto` — ONNX CPU без
|
||||
переходов. Механизм сохранён для `transcribe(..., strict_device=False)`
|
||||
- `--force` флаг для перезаписи существующих транскриптов в батч-режиме
|
||||
@@ -2,7 +2,7 @@
|
||||
|
||||
**Статус**: Принято
|
||||
**Дата**: 2026-03-21
|
||||
**Обновлено**: 2026-08-12
|
||||
**Обновлено**: 2026-09-21
|
||||
|
||||
## Контекст
|
||||
|
||||
@@ -32,8 +32,9 @@ Protocol вместо ABC — бэкенды не наследуются, дос
|
||||
### Ленивые импорты
|
||||
|
||||
Бэкенды импортируются только при выборе — `get_backend(device)` делает import внутри.
|
||||
Импорт faster-whisper запускает CUDA bootstrap (~1ms), импорт openvino-genai загружает ~50MB
|
||||
shared libraries. Ни то, ни другое не должно происходить, если бэкенд не выбран.
|
||||
CUDA bootstrap вызывается только при создании CUDA-модели (см. ADR-001).
|
||||
Импорт openvino-genai загружает ~50MB shared libraries и не должен происходить,
|
||||
если бэкенд не выбран.
|
||||
|
||||
### Device как селектор бэкенда
|
||||
|
||||
@@ -41,23 +42,41 @@ shared libraries. Ни то, ни другое не должно происхо
|
||||
- `cuda`, `cpu` → FasterWhisperBackend
|
||||
- `openvino` → OpenVINOBackend
|
||||
- `onnx` → OnnxAsrBackend
|
||||
- `auto` → CUDA при наличии `nvidia-smi`, иначе ONNX на CPU
|
||||
- `auto` → ONNX на CPU независимо от `nvidia-smi` и установки extra
|
||||
|
||||
### load_model() — единственный владелец pipeline
|
||||
### Transcriber — единственный владелец загрузки и исполнения
|
||||
|
||||
`load_model()` выполняет ensure_model_available + create_model в одном вызове.
|
||||
CLI не вызывает ensure_model_available отдельно — это убирает двойной resolution
|
||||
и гарантирует, что модель скачивается для правильного бэкенда.
|
||||
Обновлено 2026-09-21. `Transcriber(ExecutionRequest)` в `transcriber.py`
|
||||
разрешает `auto` и device-aware умолчания, выполняет ensure_model_available +
|
||||
create_model в одном месте и держит модель, adapter и фактическое исполнение
|
||||
на весь запуск. CLI не вызывает `get_backend` и не хранит handles.
|
||||
|
||||
Внутри module различаются три вещи: поддерживаемая модель, движок
|
||||
распознавания (`faster-whisper`, `openvino`, `onnx-asr`) и способ исполнения.
|
||||
Значение `device` из CLI/TOML сохраняется как вход: `get_backend` выбирает
|
||||
по нему adapter, adapter называет свой движок атрибутом `engine`, а
|
||||
аппаратную часть (CPU, CUDA, Intel GPU, список providers) трактует сам.
|
||||
Новое исполнение — новое значение `device` в `get_backend` и его понимание
|
||||
в adapter'е, не новая иерархия adapters.
|
||||
|
||||
### Cross-backend fallback
|
||||
|
||||
Fallback живёт в `transcriber.py` (оркестратор), не в бэкендах:
|
||||
Fallback живёт внутри `Transcriber`, не в бэкендах и не в CLI:
|
||||
- CUDA ошибка → CPU (FasterWhisper)
|
||||
- OpenVINO ошибка → CPU (FasterWhisper)
|
||||
- `strict_device=True` (явный `--device`) → ошибка без fallback
|
||||
- strict запуск (явный device из CLI или TOML) → ошибка без fallback
|
||||
|
||||
При fallback в батч-режиме обновляются model, backend, model_path и actual_device
|
||||
через TranscribeFileResult — следующий файл использует правильный бэкенд.
|
||||
После перехода module сам держит новое состояние; следующий файл батча
|
||||
использует его без участия caller. `WordTimestampsUnavailableError`
|
||||
и ошибки пользовательских данных переходом не считаются.
|
||||
|
||||
### Диагностика исполнения
|
||||
|
||||
Каждый adapter отдаёт `runtime_info()` — версии runtime и фактическую
|
||||
конфигурацию (для ONNX — доступные providers и те, что заданы сессиям ASR
|
||||
и VAD, квантизация, бюджет потоков). `Transcriber` включает их в
|
||||
`ExecutionInfo`; CLI печатает их в `--verbose`. Наличие provider в wheel не
|
||||
считается доказательством выполнения графа на GPU/NPU.
|
||||
|
||||
### Аудио для OpenVINO
|
||||
|
||||
@@ -76,13 +95,13 @@ OpenVINO модели предквантизированы (int8/fp16), compute_
|
||||
### Зависимости бэкендов по умолчанию
|
||||
|
||||
faster-whisper, onnx-asr/onnxruntime и openvino-genai ставятся вместе. Модели
|
||||
скачиваются только для активного бэкенда. CUDA (`nvidia-cublas-cu12`) остаётся
|
||||
conditional для Linux x86_64. OpenVINO — conditional для x86_64/AMD64, кроме
|
||||
скачиваются только для активного бэкенда. cuBLAS подключается через extra `cuda`
|
||||
для Linux/WSL x86_64 и Windows x64 (см. ADR-001). OpenVINO — conditional для x86_64/AMD64, кроме
|
||||
macOS; ONNX обеспечивает автоматический CPU-путь на остальных платформах.
|
||||
|
||||
## Последствия
|
||||
|
||||
- Обратная совместимость: `transcribe()` сохранён; `load_model()` изменил сигнатуру (возвращает 4-tuple вместо 2-tuple, добавлен `compute_type_explicit`)
|
||||
- Обратная совместимость: `transcribe()` сохранён; `load_model()` и `_transcribe_file()` удалены (2026-09-21)
|
||||
- Новый бэкенд добавляется одним файлом в `backends/` + регистрацией в `__init__.py`
|
||||
- Модели скачиваются по запросу — CUDA пользователь не качает OpenVINO модели, и наоборот
|
||||
- ARM и macOS: OpenVINO не ставится (platform markers), auto использует ONNX
|
||||
|
||||
@@ -102,10 +102,12 @@ Mm-hmm-редукция и иностранные вставки **не обна
|
||||
## Решение
|
||||
|
||||
**Принять onnx-asr как CPU-бэкенд автоматического профиля.
|
||||
GigaAM v3 E2E RNN-T — модель по умолчанию на машинах без CUDA.**
|
||||
GigaAM v3 E2E RNN-T — модель автоматического профиля на всех машинах.**
|
||||
|
||||
Порядок `--device auto`: CUDA при наличии `nvidia-smi`, иначе ONNX. OpenVINO и
|
||||
FasterWhisper CPU остаются доступными через явный CLI-аргумент или конфиг.
|
||||
С 2026-09-21 `--device auto` всегда выбирает ONNX CPU; для ASR и VAD явно
|
||||
передаётся `CPUExecutionProvider`, независимо от доступных providers. CUDA,
|
||||
OpenVINO и FasterWhisper CPU доступны через явный CLI-аргумент или конфиг.
|
||||
Подключение CUDA описано в [ADR-001](001-cuda-bootstrap.md).
|
||||
|
||||
GigaAM понимает только русскую речь, поэтому для остальных языков автоматический
|
||||
профиль не годится — нужен явный Whisper. Несовместимый язык работу не
|
||||
|
||||
@@ -5,7 +5,6 @@
|
||||
- Основной remote: `origin`
|
||||
- Gitea: `https://git.dementev.space`
|
||||
- CLI: `tea`
|
||||
- Remote `github` является зеркалом и не используется для управления задачами
|
||||
- Внешние pull request не входят в очередь triage
|
||||
|
||||
## Доступ
|
||||
|
||||
@@ -0,0 +1,125 @@
|
||||
# Бенчмарк: качество и скорость транскрипции
|
||||
|
||||
**Дата**: 2026-03-23
|
||||
|
||||
**Статус:** архив. Перенесено из ветки `feature/amd-acceleration`; конфигурации бэкендов и умолчания с тех пор изменились (ONNX CPU по умолчанию, см. ADR-003).
|
||||
|
||||
## Цель
|
||||
|
||||
Сравнить качество распознавания нашего приложения (local-transcriber) с облачным
|
||||
сервисом Whisper.ai, подобрать оптимальную конфигурацию бэкенд/модель/compute_type.
|
||||
|
||||
## Тестовый стенд
|
||||
|
||||
- **CPU**: AMD Ryzen 7 8845H w/ Radeon 780M (3.80 GHz), 8 ядер
|
||||
- **GPU**: нет NVIDIA (нет CUDA), есть встроенный Radeon 780M iGPU + Ryzen AI NPU (XDNA)
|
||||
- **ОС**: Windows 11 Enterprise
|
||||
- **Запись**: совещание 3 участников, 14:41, русский язык, микрофон ноутбука
|
||||
|
||||
## Конфигурации
|
||||
|
||||
| # | Модель | Бэкенд | compute_type | Устройство |
|
||||
|---|--------|--------|--------------|------------|
|
||||
| 1 | medium | OpenVINO | fp16 | CPU |
|
||||
| 2 | large-v3 | OpenVINO | fp16 | CPU |
|
||||
| 3 | medium | CTranslate2 (faster-whisper) | float32 | CPU |
|
||||
| 4 | medium | CTranslate2 (faster-whisper) | int8_float32 | CPU |
|
||||
| 5 | — | Whisper.ai (облако) | — | — |
|
||||
|
||||
## Результаты: скорость
|
||||
|
||||
| # | Конфигурация | Время, с | Коэфф. к реалтайму (14:41 = 881с) |
|
||||
|---|---|---|---|
|
||||
| 1 | medium, OpenVINO fp16 | **~240** | 0.27x |
|
||||
| 2 | large-v3, OpenVINO fp16 | ~503 | 0.57x |
|
||||
| 4 | medium, CT2 int8_float32 | ~599 | 0.68x |
|
||||
| 3 | medium, CT2 float32 | ~881 | 1.0x |
|
||||
|
||||
## Результаты: качество
|
||||
|
||||
Для оценки выбраны маркерные фразы — технические термины, сложная разговорная речь,
|
||||
имена собственные. Каждый маркер проверен вручную по контексту записи.
|
||||
|
||||
### Техтермины (английские в русской речи)
|
||||
|
||||
| Термин | #1 OV fp16 | #2 large OV | #3 CT2 f32 | #4 CT2 int8f32 | #5 Whisper.ai |
|
||||
|--------|-----------|-------------|------------|----------------|---------------|
|
||||
| DWH | ✅ DWH | ❌ ДВХ | ⚠️ ДВХ | ✅ DWH | ⚠️ dvh |
|
||||
| Teradata | ✅ TeraData | ⚠️ тирадат | ⚠️ Тирадату | ✅ Teradata | ⚠️ тирадата |
|
||||
| NiFi | ✅ NiFi | ❌ "на файл" | ⚠️ Найфай | ✅ NiFi | ⚠️ фай |
|
||||
| FineBI | ✅ fineBI | ❌ "фанбой" | ✅ FNBI | ✅ finebi/FNBI | ⚠️ FineBI/NBI |
|
||||
| Alation | ❌ "лэйшене" | ❌ "валаши" | ✅ Allation | ✅ Allation | ✅ Allation |
|
||||
| ETL | ❌ ETA | ❌ "и ты или" | ✅ ETL | ✅ ETL | ✅ ETL |
|
||||
| DBC Tables V | ✅ | ❌ "деби си" | ✅ | ✅ | ✅ |
|
||||
| OpenLineage | ⚠️ OpenLinage | ⚠️ "open lineage и о" | ✅ OpenLinage.io | ✅ OpenLinage.io | ✅ Open Lineage.io |
|
||||
|
||||
### Русская разговорная речь
|
||||
|
||||
| Фраза (правильно) | #1 OV fp16 | #2 large OV | #3 CT2 f32 | #4 CT2 int8f32 | #5 Whisper.ai |
|
||||
|--------------------|-----------|-------------|------------|----------------|---------------|
|
||||
| "на другую мониторочку" | ❌ "другом не торчка" | ❌ "другому и" | ✅ "мониторчику" | ⚠️ "мою точку" | ✅ "мониторочку" |
|
||||
| "верхнеуровневое" | ⚠️ "верхверх верхне..." | ✅ | ✅ | ✅ | ✅ |
|
||||
| "датарентген" | ❌ "госпиталин ген" | ❌ "господа тренды" | ✅ "даторентген" | ✅ "даторентген" | ✅ "датарентген" |
|
||||
| "девовские схемы" | ✅ | ❌ "девушки схемы" | ✅ | ✅ | ✅ |
|
||||
| "с накиданными правами" | ✅ | ❌ "накиданных бровами" | ✅ | ✅ | ✅ |
|
||||
| "Вьюхи" | ❌ "в юхе" | — | ✅ "Вьюхи" | ⚠️ "Yuhi" | ❌ "в юхе" |
|
||||
|
||||
### Структура и пунктуация
|
||||
|
||||
| Аспект | #1 OV fp16 | #2 large OV | #3 CT2 f32 | #4 CT2 int8f32 | #5 Whisper.ai |
|
||||
|--------|-----------|-------------|------------|----------------|---------------|
|
||||
| Пунктуация | слабая | слабая | хорошая | хорошая | средняя |
|
||||
| Длина сегментов | ~1 мин | ~1 мин | ~1 мин | ~1 мин | 2–30 сек |
|
||||
| Диаризация | нет | нет | нет | нет | есть (условная) |
|
||||
|
||||
## Ключевые выводы
|
||||
|
||||
### 1. OpenVINO fp16 ухудшает качество medium
|
||||
|
||||
OpenVINO даёт **3.7x ускорение**, но fp16-квантизация на CPU вносит заметные ошибки
|
||||
в распознавание нечёткой русской речи ("госпиталин ген", "ETA"). При этом английские
|
||||
техтермины (DWH, NiFi, FineBI) распознаются хорошо — видимо, они более «чёткие»
|
||||
акустически.
|
||||
|
||||
### 2. large-v3 через OpenVINO — хуже medium
|
||||
|
||||
Удивительный результат: large-v3 с OpenVINO fp16 деградировал по всем параметрам.
|
||||
FineBI → "фанбой", NiFi → "на файл", девовские → "девушки". Гипотеза: fp16 на CPU
|
||||
бьёт сильнее по большим моделям из-за накопления ошибок округления.
|
||||
|
||||
### 3. CTranslate2 float32 — лучшее качество
|
||||
|
||||
Сравнимо с облачным Whisper.ai, а на некоторых маркерах лучше (Вьюхи, DWH).
|
||||
Но **3.7x медленнее** OpenVINO — неприемлемо для длинных записей.
|
||||
|
||||
### 4. int8_float32 — оптимальный баланс
|
||||
|
||||
Mixed precision (int8 матрицы, float32 аккумулятор) даёт:
|
||||
- **1.5x ускорение** vs float32 (599с vs 881с)
|
||||
- Качество практически идентичное float32
|
||||
- Техтермины DWH/Teradata/NiFi даже лучше, чем у float32
|
||||
|
||||
### 5. Whisper.ai — диаризация как преимущество
|
||||
|
||||
Единственное значимое преимущество облачного сервиса — диаризация спикеров.
|
||||
По качеству распознавания наше приложение с CT2 int8_float32 на уровне или лучше.
|
||||
|
||||
## Рекомендации
|
||||
|
||||
### Краткосрочно
|
||||
|
||||
- **Дефолт для CPU без CUDA**: рассмотреть `int8_float32` вместо `float32` — 1.5x быстрее
|
||||
при сопоставимом качестве.
|
||||
- **OpenVINO fp16 оставить** как быстрый вариант — для случаев, когда скорость важнее
|
||||
точности (превью, черновые транскрипты).
|
||||
|
||||
### Среднесрочно
|
||||
|
||||
- **DirectML бэкенд** для AMD Radeon iGPU — через onnxruntime-directml можно задействовать
|
||||
Radeon 780M. Float16 на GPU (в отличие от CPU-квантизации) не должен терять качество.
|
||||
Потенциально 3–5x ускорение при сохранении качества float32.
|
||||
|
||||
### Долгосрочно
|
||||
|
||||
- **Ryzen AI NPU (XDNA)** — AMD развивает поддержку, но tooling пока сырой.
|
||||
- **Диаризация** — добавить идентификацию спикеров (pyannote-audio или аналоги).
|
||||
@@ -0,0 +1,328 @@
|
||||
# CPU-диаризация: Ryzen-этап эксперимента
|
||||
|
||||
**Дата:** 2026-08-31
|
||||
**Статус:** `new map`; C2 прошла проверки качества и памяти, но не достигла
|
||||
итогового порога ускорения 30%, а более быстрые ветви Intel уперлись в качество.
|
||||
Production-профиль не менялся.
|
||||
|
||||
## Итог
|
||||
|
||||
На AMD Ryzen 7 8845H выполнен этап 5 эксперимента из
|
||||
[спецификации](../specs/2026-08-30-cpu-diarization-experiment.md) по единственному
|
||||
кандидату C2 из [Intel-этапа](2026-08-31-cpu-diarization-intel.md). Этап 6 не
|
||||
запускали: победителя нет. C2 сохраняет `window_shift_ratio=0.1`, Pyannote
|
||||
Segmentation 3.0 FP32, WeSpeaker ResNet34 LM FP32 и `FastClustering(0.89)`.
|
||||
Embedding-вызовы выполняют два outer worker через одну общую ONNX Runtime
|
||||
session с общим пулом из восьми intra-op потоков; `inter_op_threads=1`.
|
||||
|
||||
Изолированный A/B механизма shared-session дал ускорение 24,05%. Первичный A/B
|
||||
C2 показал 22,90%, поэтому кандидат прошел порог продолжения 10%, и для него
|
||||
запустили пять чередующихся циклов. Они дали медиану 23,57% при MAD 0,62
|
||||
процентного пункта, то есть ниже итогового порога 30%; по одному Ryzen-кандидату
|
||||
C2 итог был бы `stop`.
|
||||
|
||||
Вся воронка дала `new map`. W1-W4 потеряли обязательное число кластеров. C1 с
|
||||
CAMPPlus + NME ускорила Intel-прогон на 33,65%, но оставила два дополнительных
|
||||
слова без говорящего; требуемую слуховую проверку не проводили и автоматической
|
||||
оценкой не подменяли. Поэтому C1 не передавали на Ryzen и не считаем победителем.
|
||||
Вернуть ее в матрицу можно только после приватной слуховой проверки.
|
||||
|
||||
Все принятые ячейки прошли обязательное качество: `3 / 2 / 2` кластера,
|
||||
неизменный текст, `51 / 13 / 9` слов без говорящего, те же значения
|
||||
`mapped speaker purity` `0,76655 / 0,78742`, `291 / 291 / 291` segmentation-окон
|
||||
и `531 / 414 / 440` embedding-заданий. Потерь или дублей prepared-строк не было.
|
||||
Пиковый RSS C2 оставался в диапазоне 410,3-418,1 МиБ; OOM, активности swap и
|
||||
линейного роста памяти не наблюдалось.
|
||||
|
||||
Полные записи и слуховая приемка по пяти категориям на этапе 6 не запускались.
|
||||
|
||||
## Что именно проверяли
|
||||
|
||||
Отчет охватывает всю воронку: этапы 0-4 на Intel и этап 5 на Ryzen. На Intel
|
||||
проверили шаг окна, модели эмбеддингов, счетчик говорящих, квантизацию, способы
|
||||
параллельного исполнения и две комбинации. Таблицы ниже собирают этот путь в
|
||||
одном месте. Подробные хеши и исходные идентификаторы ячеек остаются в
|
||||
[Intel-отчете](2026-08-31-cpu-diarization-intel.md).
|
||||
|
||||
Intel-ячейки W/M/E/C были разведочными одиночными прогонами трех пятиминутных
|
||||
фрагментов. Они показывают направление и причину отсева, но не дисперсию.
|
||||
Исключение - соседняя пара W0/C2 под runtime guard. На Ryzen сначала выполнялась
|
||||
одна диагностическая пара, затем первичная пара C2 и только после прохождения
|
||||
порога - пять чередующихся циклов.
|
||||
|
||||
### Этап 0: пригодность механизмов
|
||||
|
||||
До дорогих CPU-ячеек проверили, что экспериментальный стенд вообще измеряет
|
||||
задуманные механизмы, не теряя строки и не меняя пользовательский результат.
|
||||
|
||||
| Гипотеза | Что проверяли | Что получилось | Решение |
|
||||
|---|---|---|---|
|
||||
| `Prepare/Finalize` | Подготовка один раз, кластеризация копии матрицы и финализация | Результат совпал со штатным `process()`; пропусков и дублей строк нет | Использовать в стенде |
|
||||
| Счетчик eigengap | CAMPPlus и TitaNet на матрицах `531 / 414 / 440` строк | CAMPPlus дал `6 / 1 / 7`, TitaNet - `7 / 2 / 4` вместо `3 / 2 / 2` | Исключить |
|
||||
| Счетчик NME | Те же шесть матриц без повторного embedding-инференса | Обе модели дали `3 / 2 / 2`; метки повторяемы, потерянных строк нет | Использовать для M2 и M3 |
|
||||
| WeSpeaker S8S8 QDQ | Схема, opset, метаданные, динамические длины и загрузка через sherpa-onnx | Граф технически корректен; качество и скорость проверены отдельно в Q1 | Допустить к CPU-ячейке |
|
||||
| Shared-session worker | Один и два worker на одном наборе prepared-входов | Строки, метки и интервалы совпали; гонок и нечисловых значений нет | Допустить E1/E2 |
|
||||
|
||||
Задача этапа 0 - подтвердить, что последующие CPU-ячейки сравнивают одинаковые
|
||||
вычисления и используют исправный экспериментальный API. Скорость измеряли на
|
||||
следующих этапах.
|
||||
|
||||
### Этап 1: можно ли считать меньше окон
|
||||
|
||||
Гипотеза: увеличить `window_shift_ratio`, сократить число segmentation-окон и
|
||||
вместе с ними число embedding-заданий. Все варианты использовали Pyannote
|
||||
Segmentation 3.0 FP32, WeSpeaker FP32 и текущий `FastClustering(0.89)`.
|
||||
|
||||
| Ячейка | Шаг | Окна по трем фрагментам | Embedding-задания | Время, с | Кластеры | Решение |
|
||||
|---|---:|---|---|---:|---|---|
|
||||
| W0 | 0,10 | `291 / 291 / 291` | `531 / 414 / 440` | 148,220 | `3 / 2 / 2` | baseline |
|
||||
| W1 | 0,15 | `195 / 195 / 195` | `357 / 274 / 302` | 100,799 | `2 / 2 / 2` | исключена: потерян кластер |
|
||||
| W2 | 0,20 | `146 / 146 / 146` | `264 / 206 / 222` | 76,127 | `2 / 2 / 2` | исключена: потерян кластер |
|
||||
| W3 | 0,25 | `117 / 117 / 117` | `211 / 165 / 175` | 61,369 | `2 / 2 / 2` | исключена: потерян кластер |
|
||||
| W4 | 0,50 | `59 / 59 / 59` | `105 / 82 / 89` | 31,291 | `1 / 2 / 2` | исключена: потеряны два кластера |
|
||||
|
||||
Скорость росла именно вместе с сокращением работы, но даже осторожный W1
|
||||
нарушил обязательное качество на первой записи. Рабочим остался шаг `0.1`.
|
||||
Комбинация C0 совпала бы с baseline, поэтому ее не запускали.
|
||||
|
||||
### Этап 2: можно ли удешевить модель эмбеддингов
|
||||
|
||||
Гипотеза: сохранить полный набор окон, но заменить WeSpeaker и при необходимости
|
||||
счетчик говорящих. В M2 и M3 сохраняли `window_shift_ratio=0.1`, Pyannote
|
||||
Segmentation 3.0 FP32 и последовательный инференс. Менялись модель эмбеддингов и
|
||||
счетчик говорящих. Проценты ниже посчитаны относительно W0 148,220 с.
|
||||
|
||||
| Ячейка | Рецепт | Время, с | Изменение | RSS, МиБ | Кластеры | Решение |
|
||||
|---|---|---:|---:|---:|---|---|
|
||||
| W0 (рецепт M0) | WeSpeaker FP32 + `FastClustering(0.89)` | 148,220 | baseline | 362,6 | `3 / 2 / 2` | точка сравнения |
|
||||
| M2 | CAMPPlus + NME + `FastClustering(N)` | 94,550 | -36,21% | 358,6 | `3 / 2 / 2` | самый быстрый, собрать C1 |
|
||||
| M3 | TitaNet small + NME + `FastClustering(N)` | 107,205 | -27,67% | 511,9 | `3 / 2 / 2` | прошла, но медленнее и тяжелее M2 |
|
||||
|
||||
M2 и M3 прошли обязательное число кластеров. Окончательная диагностика M2
|
||||
появилась в C1: purity выросла, но число слов без говорящего на первой записи
|
||||
изменилось с 51 до 53. По спецификации это требует прослушивания отмеченных мест.
|
||||
|
||||
### Этап 3: квантизация и исполнение эмбеддингов
|
||||
|
||||
Для QDQ проверяли, даст ли INT8 выигрыш старому Intel без VNNI. Q1 и E1-E3
|
||||
сохраняли `window_shift_ratio=0.1`, Pyannote Segmentation 3.0 FP32 и текущий
|
||||
`FastClustering(0.89)`. Q1 меняла модель WeSpeaker, E1-E3 - только топологию
|
||||
исполнения FP32-модели. Во всех вариантах `inter_op_threads=1`; E1-E3 использовали
|
||||
общий бюджет четырех физических ядер.
|
||||
|
||||
| Ячейка | Рецепт | Время, с | Изменение к W0 | RSS, МиБ | Кластеры | Решение |
|
||||
|---|---|---:|---:|---:|---|---|
|
||||
| Q1 | WeSpeaker S8S8 QDQ, sequential | 177,537 | +19,78% | 367,7 | `2 / 2 / 2` | исключена: медленнее и потерян кластер |
|
||||
| E1 | 2 outer worker, одна session, общий pool 4 | 139,219 | -6,07% | 398,6 | `3 / 2 / 2` | передать как аппаратный кандидат |
|
||||
| E2 | 4 outer worker, одна session, `intra_op=1` | 152,167 | +2,66% | 551,2 | `3 / 2 / 2` | исключена по времени и памяти |
|
||||
| E3 | 4 отдельные session, `intra_op=1` | 159,038 | +7,30% | 732,3 | `3 / 2 / 2` | отрицательный контроль подтвердился |
|
||||
|
||||
E3 измерялась составным интервалом на заранее подготовленных заданиях, поэтому
|
||||
ее wall time нельзя сравнивать с `process()` так же строго, как E1/E2. Для
|
||||
решения хватило отрицательного результата одновременно по времени и памяти.
|
||||
|
||||
TitaNet batch проверили отдельно на тех же трех матрицах:
|
||||
|
||||
| Контроль | Строк | Batch 1, с | Batch 4, с | Число кластеров | Метки строк совпали |
|
||||
|---:|---:|---:|---:|---:|:---:|
|
||||
| 1 | 531 | 27,175 | 37,588 | 3 | нет |
|
||||
| 2 | 414 | 25,871 | 32,443 | 2 | нет |
|
||||
| 3 | 440 | 22,877 | 28,565 | 2 | нет |
|
||||
|
||||
Batch 4 сохранил число кластеров, но оказался медленнее batch 1, поменял метки
|
||||
строк на всех трех матрицах и дал максимальный дрейф эмбеддингов `0,277-0,317`.
|
||||
Ветвь остановили до отдельной CPU-ячейки. SHA-256 закрытого batch-result:
|
||||
`f12bfdb5cadf80c62871c0725eac744a99825cb5d06b70fcf11e4e538ff6df72`.
|
||||
|
||||
### Этап 4: комбинации перед Ryzen
|
||||
|
||||
Полного декартова перебора не было. C0 совпала с baseline; из оставшихся
|
||||
собрали самый быстрый модельный вариант C1 и переносимый аппаратный вариант C2.
|
||||
|
||||
| Комбинация | Точный рецепт | Время, с | Ускорение | RSS, МиБ | Диагностика | Решение |
|
||||
|---|---|---:|---:|---:|---|---|
|
||||
| C1 | `0.1` + Pyannote Segmentation 3.0 FP32 + CAMPPlus + NME + `FastClustering(N)` + sequential | 98,347 | 33,65% | 399,5 | `3 / 2 / 2`; purity выше; `+2` слова без говорящего | не передавать без слуховой проверки |
|
||||
| C2 | `0.1` + Pyannote Segmentation 3.0 FP32 + WeSpeaker ResNet34 LM FP32 + `FastClustering(0.89)` + 2 outer worker + 1 shared session + pool 4 | 140,632 | 4,32% | 406,0 | точное совпадение с соседним W0 | передать на Ryzen |
|
||||
|
||||
У C1 процент считается от разведочного W0 148,220 с. У C2 был соседний W0
|
||||
146,978 с под тем же runtime guard. C2 не достигла Intel-порога продолжения,
|
||||
но shared-session заранее считалась аппаратной гипотезой: Ryzen имеет восемь
|
||||
физических ядер и другой ISA, поэтому спецификация требовала отдельный A/B.
|
||||
|
||||
## Handoff и воспроизводимость
|
||||
|
||||
| Объект | Значение |
|
||||
|---|---|
|
||||
| Merge commit в начале Ryzen-этапа | `68fda7ee893265acfa00ac78b8d4c9697f9916d9` |
|
||||
| Handoff commit | `42f094ccb9464742683eec9d695e5aa9a69dd4ec` |
|
||||
| Source commit эксперимента | `6345cb6449d906767b6ed33e695f2ca4eeaf3008` |
|
||||
| SHA-256 Intel-отчета | `8d4183be4c3ab35f2ea043f8d87ca20e16f523cb60f9c5414d974c1bc4d6b7de` |
|
||||
| SHA-256 входной Intel-капсулы | `a3a50d34783d24fe6cd13b154ca9813f9842fdcb08d99eab33a6a54efea1e3ae` |
|
||||
| ID закрытого Ryzen-хранилища | `ryzen-42-20260831` |
|
||||
| Upstream commit sherpa-onnx 1.13.6 | `1cb484af9b1ab05cc36f89e03dd7d76322f2e911` |
|
||||
| SHA-256 патча sherpa-onnx 1.13.6 | `5f12df858cd525c8a0cfe8ff95b647c3b0e915a13d45621acc4ac42660014c49` |
|
||||
| SHA-256 Intel-wheel | `306499d8668ee138357f1de43a5c1c88f4dc46c845e8a92e6ad945327bcaa050` |
|
||||
| SHA-256 Ryzen-wheel | `baaaa2532606f1e1411e5c84655afa70107ad4b1676420953f5e67233c46a484` |
|
||||
|
||||
Входная Intel-капсула прошла полную проверку: schema v3, 199 файлов,
|
||||
QDQ-артефакт доступен, предупреждений нет. Ryzen-manifest без изменений
|
||||
зафиксировал данные Intel-капсулы: handoff, артефакты, контрольные записи,
|
||||
calibration, QDQ, патч, версии runtime и интервал RSS. Рецепты baseline и
|
||||
кандидата во всех запущенных парах совпали с переносимыми Intel-рецептами.
|
||||
|
||||
Ryzen-manifest, сырые результаты, рабочие артефакты стенда, guard-свидетельства
|
||||
и журналы сохранены в закрытой папке Яндекс Диска. Чтобы восстановить
|
||||
Ryzen-этап, нужны это хранилище и входная Intel-капсула; публичный отчет связывает
|
||||
приведенные ниже восемь результатов с закрытым хранилищем только по SHA-256.
|
||||
|
||||
Переданный wheel не загрузился в Ryzen WSL: он требовал GLIBC 2.43, а стенд
|
||||
работает с GLIBC 2.39. Для измерений wheel пересобран из того же upstream commit
|
||||
и патча под текущую систему; его отдельный SHA-256 приведен в
|
||||
таблице. Production-зависимости и lock-файл не менялись.
|
||||
|
||||
Стенд потребовал два исправления, не меняющих пользовательский контракт. Ранее
|
||||
Ryzen-запуск сравнивал свой manifest побайтово с Intel `manifest.json` внутри
|
||||
капсулы, хотя обязательные `stage=ryzen`, Ryzen-машина и расписание такое
|
||||
совпадение исключают. Теперь Intel-manifest проверяется по индексу капсулы, а
|
||||
Ryzen-manifest отдельно связывается с handoff и входами капсулы. Второе:
|
||||
`temperature_celsius` допускает `null`, когда WSL и Windows не показывают
|
||||
датчик температуры; отсутствие измерения больше не подменяется числом.
|
||||
|
||||
## Стенд Ryzen
|
||||
|
||||
- AMD Ryzen 7 8845H with Radeon 780M, 8 физических ядер / 16 логических
|
||||
процессоров;
|
||||
- 15 584 276 480 байт RAM доступны WSL, 31 944 794 112 байт установлены в
|
||||
Windows; swap WSL - 4 294 967 296 байт, активность во время принятых ячеек -
|
||||
нулевая;
|
||||
- x86_64; AVX, AVX2, AVX-512, AVX512 VNNI, FMA, SSE4.1, SSE4.2 и AES;
|
||||
- WSL2 Linux 5.15.167.4 с GLIBC 2.39, Windows 11 Enterprise 10.0.26200,
|
||||
Python 3.13.13;
|
||||
- `sherpa-onnx` / `sherpa-onnx-core` 1.13.6, ONNX Runtime 1.28.0,
|
||||
NumPy 2.4.3, ONNX 1.22.0, kaldi-native-fbank 1.22.3, psutil 7.2.2;
|
||||
- питание от сети, стабильный Windows-профиль `balanced`, EPP AC 25%,
|
||||
максимальное состояние процессора 100%, boost mode `aggressive`;
|
||||
- WSL не предоставляет governor; доступные интерфейсы также не показывают
|
||||
температурный датчик или аппаратные лимиты мощности. Температура
|
||||
записана как недоступная; это ограничивает тепловой guard;
|
||||
- нативные WSL-интерфейсы не отдали supply, platform profile и throttle count,
|
||||
поэтому для принятых ячеек использовали override
|
||||
`LOCAL_TRANSCRIBER_RUNTIME_GUARD_JSON`, заполненный проверенными Windows-фактами:
|
||||
AC, `balanced`, turbo, power policy, нулевая подкачка, отсутствие throttling.
|
||||
До и после принятых пар Windows-проверка подтверждала AC, неизменный `balanced`
|
||||
и отсутствие событий throttling от `Microsoft-Windows-Kernel-Processor-Power`.
|
||||
Статический override сам по себе не обнаруживает изменение внутри ячейки,
|
||||
поэтому внешняя проверка остается ограничением воспроизводимости;
|
||||
- baseline: одна session, один outer worker, `intra_op_threads=8`,
|
||||
`inter_op_threads=1`, batch 1; C2: одна shared session, два outer worker,
|
||||
общий `intra_op_threads=8`, `inter_op_threads=1`, batch 1.
|
||||
|
||||
## Ячейки этапа 5
|
||||
|
||||
Время ячейки - сумма трех вызовов `diarizer.process()`, по одному на каждый
|
||||
пятиминутный фрагмент. ASR и загрузка моделей в измерение не входят.
|
||||
|
||||
| Проверка | Порядок | Baseline, с | Кандидат, с | Ускорение | RSS baseline / кандидат, МиБ | Качество |
|
||||
|---|---|---:|---:|---:|---:|:---:|
|
||||
| Совпадающий baseline | W0 | 110,998 | - | - | 370,4 / - | да |
|
||||
| Изолированный E1 | W0 -> E1 | 111,557 | 84,723 | 24,05% | 367,3 / 412,2 | да |
|
||||
| Первичный C2 | C2 -> W0 | 111,423 | 85,909 | 22,90% | 369,6 / 410,3 | да |
|
||||
|
||||
E1 и C2 сохранили все обязательные и диагностические показатели baseline.
|
||||
Первичный C2 прошел порог продолжения и уложился в правило памяти.
|
||||
|
||||
## Пять финальных A/B-циклов
|
||||
|
||||
| Цикл | Порядок | Baseline, с | C2, с | Парное ускорение | RSS baseline / C2, МиБ | Качество |
|
||||
|---:|---|---:|---:|---:|---:|:---:|
|
||||
| 1 | W0 -> C2 | 111,354 | 83,529 | 24,99% | 369,2 / 413,4 | да |
|
||||
| 2 | C2 -> W0 | 108,899 | 83,907 | 22,95% | 373,0 / 418,1 | да |
|
||||
| 3 | W0 -> C2 | 110,928 | 84,968 | 23,40% | 373,8 / 410,9 | да |
|
||||
| 4 | C2 -> W0 | 114,985 | 83,342 | 27,52% | 376,6 / 411,1 | да |
|
||||
| 5 | W0 -> C2 | 113,233 | 86,548 | 23,57% | 358,6 / 413,4 | да |
|
||||
| **Итог** | - | - | - | **медиана 23,57%; MAD 0,62 п. п.** | - | **да** |
|
||||
|
||||
Чередование не изменило вывод: даже лучший отдельный цикл остался ниже 30%, а
|
||||
медиана недобрала 6,43 процентного пункта. На Intel тот же механизм давал только
|
||||
4,32%; Ryzen ускоряет shared-session заметнее, но недостаточно для `go`.
|
||||
|
||||
## Что уже не нужно прогонять заново
|
||||
|
||||
Полный replay этапов 0-5 для следующей гипотезы не нужен. Долговечное
|
||||
доказательство составляют публичные агрегаты, хеши и
|
||||
[карта архитектур](../research/2026-09-01-end-to-end-cpu-diarization-map.md).
|
||||
Закрытые хранилища задач #41/#42 и старый материал для прослушивания C1
|
||||
временно сохраняются до завершения и приемки задачи #46 как архив только для
|
||||
чтения. Новый эксперимент их не читает. После приемки его отчета архив можно
|
||||
удалить: будущей зависимостью он не является.
|
||||
|
||||
| Результат | Что можно переиспользовать | Когда повтор действительно нужен |
|
||||
|---|---|---|
|
||||
| W1-W4 | На текущей Pyannote-модели увеличение шага теряет кластер раньше порога скорости | Изменилась segmentation-модель, логика сборки окон или обязательный quality gate |
|
||||
| M2/M3 | CAMPPlus и TitaNet с NME сохраняют `3 / 2 / 2`; M2 быстрее и экономнее | Изменилась модель, счетчик, clustering или контрольные входы |
|
||||
| Q1 | Этот S8S8 QDQ-граф на Intel медленнее FP32 и дает `2 / 2 / 2` | Новая калибровка, формат квантизации, модель или runtime |
|
||||
| E2/E3 | Больше worker и отдельные session не окупились при прежнем бюджете потоков | Изменилась топология session, runtime или бюджет ядер |
|
||||
| E1/C2 на Ryzen | Для точного рецепта shared-session медиана равна 23,57%, качество и память проходят | Изменилась реализация механизма, runtime, машина или режим питания |
|
||||
| C1 | Исторический замер скорости остается доказательством незакрытого gate; старый материал временно хранится только в архиве и не входит в задачу #46 | Для нового измерения C1 либо повторного открытия после удаления архива заново выполнить минимальную пару W0/C1 и подготовить новый материал для прослушивания |
|
||||
|
||||
Есть три разных вида проверки, и они не заменяют друг друга:
|
||||
|
||||
1. `--validate-only` сверяет commit, схему, хеши, handoff и план. Модели он не
|
||||
запускает.
|
||||
2. `uv run pytest` проверяет код стенда на mock-данных. Полный Python-suite перед
|
||||
PR нужен, но он не повторяет аудиозамеры и не скачивает модели.
|
||||
3. Измерительная ячейка запускает реальные модели. Для новой гипотезы нужен
|
||||
только затронутый минимальный срез, один совпадающий baseline и первичный A/B.
|
||||
Пять циклов и полные записи нужны лишь кандидату, прошедшему записанные пороги.
|
||||
|
||||
## Что осталось неизвестным
|
||||
|
||||
- C1 не получила слухового решения. Из автоматических метрик нельзя вывести,
|
||||
допустимы ли два дополнительных слова без говорящего.
|
||||
- Для восьми принятых последовательных W0 опубликовано
|
||||
[суммарное разложение](../research/2026-09-01-end-to-end-cpu-diarization-map.md#измеренное-разложение-текущего-ryzen-baseline)
|
||||
на segmentation, embeddings, clustering и orchestration residual. Для
|
||||
shared-session C2 schema-compatible native total и orchestration residual
|
||||
остаются недоступны.
|
||||
- Полные записи не запускались: C2 не достигла порога; C1 не дошла до Ryzen.
|
||||
- Температурный датчик в WSL и Windows недоступен. Внешняя проверка питания и
|
||||
throttling снижает риск дрейфа, но не заменяет измерение температуры во время
|
||||
каждой ячейки.
|
||||
- Эксперимент проверял локальные замены внутри прежнего каскада. End-to-end
|
||||
архитектуры в эту матрицу не входили.
|
||||
|
||||
## Индекс публичных доказательств
|
||||
|
||||
Хеши связывают обезличенные агрегаты с приватными JSON-результатами и не
|
||||
раскрывают пути, текст, интервалы и идентификаторы записей.
|
||||
|
||||
| Результат | SHA-256 |
|
||||
|---|---|
|
||||
| Совпадающий baseline | `f50684784392cacc2d99c8aee51d01f0a67dfee3da6ea3ba5f3db749a3d5287a` |
|
||||
| Изолированный E1 A/B | `24d5edae117e0619e432ef3f3019e8c66cf3516b87b80b64b8591390db25bf48` |
|
||||
| Первичный C2 A/B | `142db6d06efc8d558b38e18f47f47e3e35e7df00751da2583339f99add8d75c4` |
|
||||
| Финальный цикл 1 | `4b5095c9e64ff0ef75bbc58516c662bedbbdb0bedf131f66cc1031c9a0ad8c7f` |
|
||||
| Финальный цикл 2 | `256a17b2d08510aad03d43f5c626c1a4269c9a25271ce492dc3305c4afca1888` |
|
||||
| Финальный цикл 3 | `b5d37c7a8b05b065c61bc9d5f1c0ab639a80a821730e505179388d90c4239caa` |
|
||||
| Финальный цикл 4 | `639cc9f13511a59c7240c6fb6ec6bf1c31ec26350330e3ca0c64fb721b768736` |
|
||||
| Финальный цикл 5 | `4ff2863a93fc22a037de5c292391b6b46de1b539cf397026b349ea5134cf1051` |
|
||||
|
||||
## Решение
|
||||
|
||||
Итог - `new map`:
|
||||
|
||||
1. C2 прошла обязательное качество и память.
|
||||
2. Медианное ускорение 23,57% не достигло порога 30%.
|
||||
3. W1-W4 потеряли кластер, а C1 преодолела 30% на Intel только с незакрытым
|
||||
диагностическим слуховым gate: сокращение окон и цены эмбеддинга уперлось в
|
||||
качество раньше итогового порога.
|
||||
4. По правилу спецификации следующий шаг - отдельная карта end-to-end
|
||||
диаризации: [карта архитектур](../research/2026-09-01-end-to-end-cpu-diarization-map.md)
|
||||
и [контракт Streaming Sortformer](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||
Карта подготовлена в
|
||||
[задаче #45](https://git.dementev.space/ddmitry/local-transcriber/issues/45),
|
||||
а контракт исполняет
|
||||
[задача #46](https://git.dementev.space/ddmitry/local-transcriber/issues/46).
|
||||
5. Полные записи и Ryzen-слуховая приемка не требуются без победителя.
|
||||
6. Production-профиль, CLI, конфигурационный контракт и модель по умолчанию
|
||||
остаются без изменений.
|
||||
@@ -0,0 +1,178 @@
|
||||
# Streaming Sortformer: разведочный прогон на Intel
|
||||
|
||||
**Дата:** 2026-09-01
|
||||
|
||||
**Статус:** разведка завершена; владелец решил не запускать Ryzen-прогон,
|
||||
production-профиль не меняется. Задача #46 формально остается открытой без
|
||||
исхода `go` или `stop`.
|
||||
|
||||
## Решение
|
||||
|
||||
Streaming Sortformer v2 Q8_0 обработал три 300-секундных фрагмента за
|
||||
137,498 с против 157,487 с у свежего W0. Ускорение одной парной проверки на
|
||||
четырех физических ядрах составило 12,69%. Это заметный выигрыш, но он далеко
|
||||
не дотягивает до целевых 30%.
|
||||
|
||||
По исходной спецификации ускорение выше 10% открывает пять финальных циклов.
|
||||
Разведка этот порог прошла. Владелец, однако, изменил вопрос: нужно было решить,
|
||||
оправдано ли неудобное развертывание отдельной машины ради шанса достичь 30%.
|
||||
|
||||
Предсказать Ryzen по этой паре нельзя. Восемь физических ядер могут сильнее
|
||||
ускорить W0, чья приемочная конфигурация получает восемь потоков. Более новая
|
||||
микроархитектура Ryzen, напротив, может оказаться выгоднее Sortformer. Модели
|
||||
переноса для этих эффектов нет. Решение владельца учитывает слабый запас по
|
||||
скорости, смешанную диагностику качества и рост памяти. Формальное правило
|
||||
остановки эксперимента здесь не применялось.
|
||||
|
||||
Кандидат не включается в production. Пять финальных циклов, полные записи и
|
||||
слуховая приемка не запускались.
|
||||
|
||||
## Статус относительно задачи #46
|
||||
|
||||
Это не канонический исход `go` или `stop` из
|
||||
[спецификации](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||
Владелец изменил маршрут исследования после слияния стенда: вместо неудобного
|
||||
развертывания отдельной Ryzen-машины сначала потребовалась локальная проверка,
|
||||
достаточная для решения, нужен ли Ryzen вообще.
|
||||
|
||||
Разведка отличается от исходного контракта:
|
||||
|
||||
- Intel Core i7-6820HQ вместо целевого Ryzen;
|
||||
- привязка к четырем физическим ядрам `0-3` вместо восьми;
|
||||
- четыре intra-op потока W0 вместо восьми; Sortformer сохранил закрепленные
|
||||
четыре внутренних потока;
|
||||
- одна свежая пара на трех фрагментах вместо primary и пяти финальных пар;
|
||||
- использована утвержденная владельцем готовая разметка. Нового полного
|
||||
прослушивания для повторного определения числа голосов не было;
|
||||
- swap был занят до начала измерений. Во время принятой пары его объем не
|
||||
изменился, но каноническую проверку памяти нельзя считать пройденной.
|
||||
|
||||
Поэтому числа ниже отвечают только на практический вопрос о целесообразности
|
||||
дальнейшего Ryzen-прогона. Формальная задача #46 остается незавершенной.
|
||||
|
||||
Новая закрытая основа была собрана отдельно из сохраненных исходных записей.
|
||||
Подготовленные sidecar и опорная разметка перенесены по решению владельца.
|
||||
Ее `basis.json` не заменяет канонический manifest приемочного стенда. Старые
|
||||
manifest, расписания, измерения и результаты стенд не читал. Байты моделей W0
|
||||
проверены заново по закрепленным SHA-256.
|
||||
|
||||
## Рецепты
|
||||
|
||||
W0 использовал `sherpa-onnx/core 1.13.6`, Pyannote Segmentation 3.0 FP32,
|
||||
WeSpeaker ResNet34 LM FP32, `window_shift_ratio=0.1`,
|
||||
`FastClustering(auto, 0.89)`, CPU provider, `debug=True`, один процесс и четыре
|
||||
intra-op потока, `inter_op_threads=1`, `min_duration_on=0.3` и
|
||||
`min_duration_off=0.5`.
|
||||
|
||||
Кандидат использовал NeMo-Speech.cpp на закрепленном commit, модель Streaming
|
||||
Sortformer v2 Q8_0, CPU backend, один процесс и один stream. Geometry и
|
||||
post-processing полностью совпадали со спецификацией. Реальная загрузка модели
|
||||
через C ABI подтвердила четыре выходных канала и шаг 0,08 с на кадр.
|
||||
|
||||
Обе ветви получили одни и те же заранее декодированные mono/16 kHz float32
|
||||
буферы. Загрузка моделей, декодирование, чтение sidecar, вычисление метрик и
|
||||
запись результатов находились вне таймера. W0 измерял штатный
|
||||
`diarizer.process(samples)`. У кандидата таймер охватывал
|
||||
`stream_open -> stream_push -> stream_finish` и построение итоговых сегментов;
|
||||
копирование диагностической матрицы вероятностей в wall не входило.
|
||||
|
||||
## Условия прогона
|
||||
|
||||
- Intel Core i7-6820HQ, четыре физических ядра и восемь логических;
|
||||
- обе ветви привязаны к физическим ядрам `0-3`;
|
||||
- фиксированный порядок пары: W0, затем Sortformer;
|
||||
- каждая ветвь запущена новым процессом; модель загружена один раз, три
|
||||
фрагмента обработаны последовательно;
|
||||
- swap до и после каждой полной ячейки занимал 185 774 080 байт и не менялся;
|
||||
короткий `vmstat` перед парой не показал swap I/O.
|
||||
|
||||
Режим питания, governor, turbo, температуру и признаки throttling во время
|
||||
принятой пары защитная проверка не записала. Обратный порядок пары тоже не
|
||||
проверялся. Поэтому 12,69% служит только ориентиром для решения о продолжении.
|
||||
Устойчивая оценка производительности Intel не получена.
|
||||
|
||||
## Скорость и память
|
||||
|
||||
| Фрагмент | W0, с | Sortformer, с | Ускорение | Кластеры W0 | Кластеры Sortformer |
|
||||
|---:|---:|---:|---:|---:|---:|
|
||||
| 1 | 54,560 | 46,163 | 15,39% | 3 | 3 |
|
||||
| 2 | 53,524 | 46,254 | 13,58% | 2 | 2 |
|
||||
| 3 | 49,402 | 45,081 | 8,75% | 2 | 2 |
|
||||
| **Сумма** | **157,487** | **137,498** | **12,69%** | - | - |
|
||||
|
||||
Суммы рассчитаны из сырых значений до округления строк таблицы.
|
||||
|
||||
У кандидата `inference` занял 137,497047 с, построение сегментов - 0,000566 с.
|
||||
Их сумма 137,497614 с совпадает с полным `wall` до точности округления.
|
||||
|
||||
Пиковый RSS процесса составил 321,8 МиБ у W0 и 586,2 МиБ у кандидата.
|
||||
Sortformer потребовал на 264,3 МиБ, или на 82,1%, больше. После третьего
|
||||
фрагмента рост вышел на плато. Разница и процент рассчитаны из числа байтов до
|
||||
округления значений в МиБ.
|
||||
|
||||
## Автоматическое качество
|
||||
|
||||
Обе ветви на всех трех фрагментах:
|
||||
|
||||
- нашли ранее утвержденное число голосовых кластеров `3; 2; 2`;
|
||||
- сохранили текст, число и порядок слов из общего ASR-sidecar;
|
||||
- выдали конечные, положительные и упорядоченные интервалы;
|
||||
- прошли правила канонической нумерации говорящих.
|
||||
|
||||
Кандидат дополнительно прошел специальную проверку Sortformer: форма
|
||||
вероятностей `T x 4`, диапазон `[0, 1]`, метки `1..4`, метаданные кадров и
|
||||
эффективная конфигурация совпали с закрепленными значениями.
|
||||
|
||||
Диагностика не показывает однозначного улучшения качества. Показатель
|
||||
`mapped speaker purity` изменился с `0,8404; 0,7665; 0,7874` у W0 на
|
||||
`0,6477; 0,8372; 0,9201` у Sortformer: на первом фрагменте есть заметное
|
||||
ухудшение, на двух других - улучшение. Слов без назначенного говорящего стало
|
||||
92 вместо 75. Эти показатели не имеют автоматического порога, но при
|
||||
продолжении потребовали бы слуховой проверки затронутых мест.
|
||||
|
||||
## Закрепленные доказательства
|
||||
|
||||
- source commit local-transcriber:
|
||||
`f59efa51b769a4301a231fa977b8e04844331bc1`;
|
||||
- SHA-256 закрытого `basis.json`:
|
||||
`ab5ee0b191770abf69d5d17fb5cc2be169c0890e3b5b683f05d5c8b7c9ffa0d3`;
|
||||
- commit NeMo-Speech.cpp:
|
||||
`4f9676226f667d14608487df744f375db87127f8`;
|
||||
- commit submodule ggml:
|
||||
`c03b4e2bcece5134827881af90242086daf75be5`;
|
||||
- SHA-256 модели Sortformer Q8_0:
|
||||
`0679cfeb1ce356d0dea9470b31274f4bfc7eb927497d82005483770666da998a`;
|
||||
- SHA-256 модели Pyannote Segmentation 3.0 FP32:
|
||||
`220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079`;
|
||||
- SHA-256 модели WeSpeaker ResNet34 LM FP32:
|
||||
`e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012`;
|
||||
- SHA-256 исполняемого файла:
|
||||
`571ca0be2342a0ee7a807e2bdb55fda0f5e6cfa510db28ae4f5b127613889053`;
|
||||
- SHA-256 библиотеки C ABI:
|
||||
`620ad4d76906c7af744b1eabba6f961ae82e8113e404099a91cf1d8536f08122`;
|
||||
- SHA-256 приватного runner-скрипта:
|
||||
`a015a78cbed767e861eda1b52496d9da9a54cf2ba3cba0b3bc11ee89022017d9`;
|
||||
- SHA-256 закрытого результата W0:
|
||||
`d921c0160d3b79b073f1c631f87aa2f8798e619d936f13369d85656ebf3c75be`;
|
||||
- SHA-256 закрытого результата кандидата:
|
||||
`ff5a0c7f49faf64e2736ebc8075bb80dbfb85fadd4d29caeffbb3b2beadddbd3`;
|
||||
- SHA-256 сводного закрытого результата:
|
||||
`826cda109d05b72cf37af0d92101d67ffa24edd96ab78ce67abba737f73ba5ca`.
|
||||
|
||||
Закрытое хранилище содержит подготовленные записи, sidecar, опорную разметку,
|
||||
сырые результаты и воспроизводимые пины. Пути, идентификаторы записей, текст,
|
||||
интервалы, логи и аудио в отчет не включены.
|
||||
|
||||
## Ограничения
|
||||
|
||||
Разведка не доказывает скорость на Ryzen и не заменяет расписание приемочного
|
||||
эксперимента. Один порядок одной пары и неполная защитная проверка не дают
|
||||
устойчивой оценки разброса, питания и нагрева. Память не получила канонического
|
||||
вердикта.
|
||||
|
||||
Сохраняются ограничения самой модели: не больше четырех выходных голосовых
|
||||
кластеров, риск для встреч с пятью и более голосами, русской речи вне домена и
|
||||
длинных записей. Если когда-нибудь понадобится именно формальный исход #46,
|
||||
потребуется отдельный Ryzen-прогон по исходной спецификации. Intel-разведка не
|
||||
позволяет предсказать его результат; сейчас владелец решил не тратить на него
|
||||
время.
|
||||
@@ -0,0 +1,75 @@
|
||||
# Streaming Sortformer: сравнение на Ryzen
|
||||
|
||||
**Дата:** 2026-09-04
|
||||
|
||||
Streaming Sortformer обработал три 300-секундных фрагмента за `67,433` с
|
||||
против `103,242` с у свежего W0. Ускорение одной пары составило `34,68%`.
|
||||
Кандидат правильно определил число голосов на всех трех фрагментах; W0 на
|
||||
одном из них выделил два кластера вместо трех.
|
||||
|
||||
У результата есть два заметных минуса. Sortformer оставил без говорящего
|
||||
`92` слова против `73` у W0 и потребовал около `551` МиБ памяти против `325`
|
||||
МиБ. Во время обеих ячеек была небольшая активность swap, поэтому одна пара
|
||||
показывает направление, но не устойчивость ускорения.
|
||||
|
||||
## Сравнение
|
||||
|
||||
| Показатель | W0 | Sortformer |
|
||||
| --- | ---: | ---: |
|
||||
| Суммарный wall, с | `103,242` | `67,433` |
|
||||
| Ускорение | - | `34,68%` |
|
||||
| Ожидалось кластеров | `2 / 2 / 3` | `2 / 2 / 3` |
|
||||
| Получено кластеров | `2 / 2 / 2` | `2 / 2 / 3` |
|
||||
| Ошибок по числу кластеров | `1 из 3` | `0 из 3` |
|
||||
| Mapped purity на двух размеченных фрагментах | `0,7655 / 0,8915` | `0,8392 / 0,9176` |
|
||||
| Слов без говорящего | `73` | `92` |
|
||||
| Пиковый RSS, МиБ | `324,57` | `551,07` |
|
||||
| CPU time, с | `822,67` | `238,70` |
|
||||
| Прочитано из swap, КиБ | `492` | `224` |
|
||||
| Записано в swap, КиБ | `148` | `160` |
|
||||
|
||||
Обе модели получили одинаковые заранее подготовленные mono/16 kHz float32
|
||||
буферы и те же ASR-sidecar. W0 работал на восьми физических ядрах, Sortformer -
|
||||
с четырьмя закрепленными внутренними потоками. Загрузка моделей, декодирование
|
||||
аудио, чтение sidecar и расчет метрик в wall не входили.
|
||||
|
||||
Sortformer прошел автоматические проверки формы вероятностей, диапазона
|
||||
значений, меток говорящих, текста, порядка слов и интервалов на всех трех
|
||||
фрагментах. Его mapped purity выше W0 на обоих фрагментах с опорной разметкой.
|
||||
При этом рост числа слов без говорящего требует слуховой проверки: по одной
|
||||
автоматике нельзя заключить, что качество кандидата в целом лучше.
|
||||
|
||||
## Как читать результат
|
||||
|
||||
По исходному расписанию задача завершилась как `stop`, когда W0 не прошел
|
||||
проверку числа кластеров. После этого была выполнена одна диагностическая
|
||||
ячейка Sortformer на тех же входах, чтобы ответить на практический вопрос о
|
||||
кандидате. Пять повторных пар, полные записи и слуховая проверка не выполнялись.
|
||||
|
||||
По этой паре Sortformer выглядит перспективно: ускорение оказалось выше
|
||||
целевого порога `30%`, модель правильно выделила три голоса на проблемном
|
||||
фрагменте и показала лучшую mapped purity. Для решения о внедрении нужны
|
||||
повторные парные замеры без активности swap и слуховая проверка мест, где
|
||||
слова остались без говорящего. Текущий результат уже достаточен, чтобы не
|
||||
отбрасывать кандидата и продолжить исследование отдельной задачей.
|
||||
|
||||
## Рецепты и техническая привязка
|
||||
|
||||
W0 использовал `sherpa-onnx/core 1.13.6`, Pyannote Segmentation 3.0 FP32,
|
||||
WeSpeaker ResNet34 LM FP32, CPU provider, `window_shift_ratio=0.1`,
|
||||
`FastClustering(auto, 0.89)`, один процесс и одну сессию,
|
||||
`intra_op_threads=8`, `inter_op_threads=1`, `min_duration_on=0.3` и
|
||||
`min_duration_off=0.5`.
|
||||
|
||||
Кандидат использовал NeMo-Speech.cpp commit
|
||||
`4f9676226f667d14608487df744f375db87127f8`, модель Streaming Sortformer v2
|
||||
Q8_0 с SHA-256
|
||||
`0679cfeb1ce356d0dea9470b31274f4bfc7eb927497d82005483770666da998a`, CPU
|
||||
backend, один процесс и один stream. Geometry и post-processing соответствовали
|
||||
[спецификации](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||
|
||||
Коммит исходного кода, выполнившего обе ячейки:
|
||||
`4c4a8be07b3653cede35b0435e6c9ef6cb3fb87d`.
|
||||
|
||||
Закрытая основа и результаты сохраняются для следующих исследований. Их
|
||||
повторное использование должно быть явно описано в новой задаче.
|
||||
+25
-26
@@ -2,7 +2,7 @@
|
||||
|
||||
## Режимы `--device`
|
||||
|
||||
- `auto` (по умолчанию) — CUDA при наличии `nvidia-smi`, иначе ONNX на CPU
|
||||
- `auto` (по умолчанию) — всегда ONNX на CPU
|
||||
- `cuda` — строго NVIDIA GPU, ошибка если недоступен
|
||||
- `openvino` — авто-выбор OpenVINO GPU или CPU
|
||||
- `openvino-gpu` — строго Intel GPU через OpenVINO
|
||||
@@ -13,8 +13,8 @@
|
||||
|
||||
| Оборудование | Рекомендуемый `--device` | Бэкенд | Ожидаемая скорость |
|
||||
|---|---|---|---|
|
||||
| NVIDIA GPU (6+ GB VRAM) | `auto` / `cuda` | faster-whisper (CTranslate2) | 7-19x реалтайм |
|
||||
| Любой CPU без NVIDIA | `auto` / `onnx` | ONNX GigaAM RNN-T | 10-14x реалтайм* |
|
||||
| NVIDIA GPU (6+ GB VRAM) | `cuda` + extra | faster-whisper (CTranslate2) | 7-19x реалтайм |
|
||||
| Любой CPU | `auto` / `onnx` | ONNX GigaAM RNN-T | 10-14x реалтайм* |
|
||||
| Intel Arc iGPU / dGPU | `openvino-gpu` | OpenVINO GenAI (GPU) | TBD |
|
||||
| Intel/AMD x86 CPU | `openvino-cpu` | OpenVINO GenAI (CPU) | 3-10x реалтайм* |
|
||||
| Любой CPU, FasterWhisper | `cpu` | faster-whisper (CTranslate2) | ~1.5x реалтайм |
|
||||
@@ -22,7 +22,7 @@
|
||||
\* По результатам контрольных прогонов на Intel и AMD CPU. Реальная скорость
|
||||
зависит от CPU, модели и записи.
|
||||
|
||||
Автоматический профиль без NVIDIA рассчитан на русскую речь: GigaAM других
|
||||
Автоматический профиль рассчитан на русскую речь: GigaAM других
|
||||
языков не понимает. Для них берите Whisper — `openvino-cpu` на x86 или `cpu`
|
||||
на любой платформе.
|
||||
|
||||
@@ -211,22 +211,16 @@ SMT/Hyper-Threading не помогает — 16 потоков на 8-ядер
|
||||
|
||||
## Настройка по платформам
|
||||
|
||||
### Linux / WSL2 (x86_64)
|
||||
Для Linux/WSL x86_64 и Windows x64 используется один extra `cuda` и явный
|
||||
выбор `--device cuda` либо `device = "cuda"` в TOML. Команды установки из Git,
|
||||
клона и для разработки приведены в [README](../README.md#подключение-cuda).
|
||||
Обычный запуск всегда использует ONNX CPU, независимо от драйвера и extra.
|
||||
|
||||
Библиотека cuBLAS ставится автоматически (зависимость `nvidia-cublas-cu12` подтягивается при установке).
|
||||
Дополнительных шагов не требуется.
|
||||
|
||||
> На ARM (aarch64) cuBLAS через pip недоступен — нужен системный CUDA toolkit.
|
||||
|
||||
### Windows
|
||||
|
||||
Нужен системный **CUDA 12** (ctranslate2 4.7 не совместим с CUDA 11 и 13):
|
||||
|
||||
```bash
|
||||
winget install -e --id Nvidia.CUDA --version 12.9 # требует запуска от имени администратора
|
||||
```
|
||||
|
||||
После установки перезапустите терминал.
|
||||
Драйвер NVIDIA устанавливается отдельно. Полный системный CUDA Toolkit не
|
||||
нужен для пути через extra; на Windows требуется Visual C++ Runtime x64.
|
||||
Состав Windows DLL проверен статически; реальная транскрипция без Toolkit
|
||||
пока не проверена. Версии и границы проверки — [ADR-001](adr/001-cuda-bootstrap.md).
|
||||
CUDA extra для ARM в этой задаче не поддерживается.
|
||||
|
||||
## Совместимость GPU
|
||||
|
||||
@@ -331,14 +325,19 @@ threshold не помогла — проблема inherent для модели
|
||||
Убедитесь, что `nvidia-smi` возвращает информацию о GPU. Драйвер NVIDIA предоставляет `libcuda.so.1`,
|
||||
без которого CUDA не работает — его нельзя поставить через pip.
|
||||
|
||||
### Windows: ошибка при загрузке модели на GPU
|
||||
### Отсутствующие библиотеки и несовместимый GPU
|
||||
|
||||
GPU на Windows требует **CUDA 12** (ctranslate2 4.7 не совместим с CUDA 11 и 13). Установите:
|
||||
```bash
|
||||
winget install -e --id Nvidia.CUDA --version 12.9 # требует запуска от имени администратора
|
||||
```
|
||||
После установки перезапустите терминал.
|
||||
При отсутствии cuBLAS подключите extra в том окружении, откуда запускается
|
||||
программа, по [инструкции README](../README.md#подключение-cuda).
|
||||
На Windows ошибка загрузки DLL может также означать отсутствие Visual C++ Runtime.
|
||||
|
||||
`no kernel image` / `invalid device function` означают несовместимость GPU
|
||||
с выбранной сборкой runtime. Установка extra её не исправит. Ошибки драйвера
|
||||
требуют проверки драйвера; нехватка VRAM — меньшей модели или явного выбора CPU.
|
||||
Исходная ошибка сохраняется. CLI/TOML с явной CUDA не переходят молча на CPU
|
||||
ни при загрузке, ни при распознавании.
|
||||
|
||||
### ARM (aarch64)
|
||||
|
||||
cuBLAS через pip недоступен на ARM — нужен системный CUDA toolkit.
|
||||
CUDA extra не поддерживается проектом на этой архитектуре. Наличие отдельных
|
||||
NVIDIA wheels для ARM само по себе не подтверждает рабочий путь транскрипции.
|
||||
@@ -0,0 +1,353 @@
|
||||
# Исследование: ускорение на AMD Radeon / NPU
|
||||
|
||||
**Дата**: 2026-03-23
|
||||
**Железо**: AMD Ryzen 7 8845H, Radeon 780M iGPU (RDNA3, 12 CU), XDNA 1 NPU (16 TOPS)
|
||||
|
||||
**Статус:** архив. Перенесено из ветки `feature/amd-acceleration` (март 2026) ради истории решений. Выводы не реализованы: ADR-003 выбрал OpenVINO GenAI вместо whisper.cpp, а автоматический выбор устройства закреплён за ONNX CPU (#2).
|
||||
|
||||
## Мотивация
|
||||
|
||||
Бенчмарк ([2026-03-23-transcription-quality-ryzen.md](../benchmarks/2026-03-23-transcription-quality-ryzen.md)) показал: лучшее качество
|
||||
даёт CTranslate2 float32/int8_float32, но это 600–880с на 15-минутную запись.
|
||||
OpenVINO fp16 быстрее (240с), но теряет качество на русской речи.
|
||||
|
||||
Нужен путь: качество float32 + скорость GPU.
|
||||
|
||||
## Вариант 1: DirectML (onnxruntime-directml)
|
||||
|
||||
### Вердикт: ❌ НЕ рекомендуется
|
||||
|
||||
**Блокирующая проблема**: оператор `DecoderMaskedMultiHeadAttention` не реализован
|
||||
в DirectML ([Olive#1213](https://github.com/microsoft/Olive/issues/1213), открыт с июня 2024).
|
||||
Whisper-декодер fallback-ится на CPU — GPU ускоряет только encoder, выигрыш минимален.
|
||||
|
||||
**DirectML в maintenance mode** — Microsoft переключился на Windows ML (WinML).
|
||||
Команда DML расформирована, новых операторов не будет. Фикс маловероятен.
|
||||
|
||||
**WinML** (замена DirectML) — GA с сентября 2025, но Python-пакет `onnxruntime-winml`
|
||||
ещё не доступен. Требует Windows 11 25H2+. Потенциально интересен в будущем.
|
||||
|
||||
## Вариант 2: whisper.cpp + Vulkan ✅
|
||||
|
||||
### Вердикт: рекомендуется как основной путь
|
||||
|
||||
**Почему:**
|
||||
- Проверен на AMD Radeon 780M — баг softmax ([#2596](https://github.com/ggml-org/whisper.cpp/issues/2596))
|
||||
исправлен в декабре 2024
|
||||
- **3–4x ускорение** vs CPU на Radeon 680M (RDNA2), 780M (RDNA3) должен быть не хуже
|
||||
- Весь pipeline внутри: аудио → mel → encoder → decoder → beam search
|
||||
- GGUF-модели компактнее ONNX
|
||||
- Активная разработка, Vulkan-бэкенд зрелый
|
||||
|
||||
**Бенчмарки (чужие, похожее железо):**
|
||||
|
||||
| GPU | Модель | Результат |
|
||||
|-----|--------|-----------|
|
||||
| Radeon 680M (RDNA2) | medium | ~3–4x быстрее CPU |
|
||||
| Ryzen 5 4500U (Vega) | medium | 1ч аудио за ~25 мин |
|
||||
| Ryzen AI Max+ 395 (Strix Halo) | large-v3-turbo | 1ч20м аудио за ~3 мин |
|
||||
|
||||
**Память:** Radeon 780M использует системную RAM. whisper-medium в GGUF ≈ 1.5 ГБ —
|
||||
помещается с запасом.
|
||||
|
||||
### Интеграция в проект
|
||||
|
||||
Новый бэкенд `backends/whisper_cpp.py`, реализующий Backend Protocol:
|
||||
|
||||
```
|
||||
uv add pywhispercpp # Python-биндинги к whisper.cpp
|
||||
```
|
||||
|
||||
Либо Vulkan-сборка whisper.cpp как subprocess (более надёжно,
|
||||
но менее удобно для пользователя).
|
||||
|
||||
**Зависимость в pyproject.toml:**
|
||||
```toml
|
||||
# Опциональная, т.к. требует Vulkan-совместимый GPU
|
||||
"pywhispercpp>=0.4; sys_platform == 'win32'"
|
||||
```
|
||||
|
||||
Либо через dependency group:
|
||||
```toml
|
||||
[dependency-groups]
|
||||
vulkan = ["pywhispercpp>=0.4"]
|
||||
```
|
||||
|
||||
Тогда установка: `uv sync --group vulkan`
|
||||
|
||||
**Открытые вопросы:**
|
||||
- pywhispercpp собран с Vulkan или нужна своя сборка?
|
||||
- Качество GGUF-квантизации vs CTranslate2 float32 — нужен бенчмарк
|
||||
- Формат моделей другой (GGUF vs CTranslate2/OpenVINO) — ещё одно скачивание
|
||||
|
||||
## Вариант 3: AMD NPU (XDNA)
|
||||
|
||||
### Вердикт: ⏳ рано для XDNA 1, перспективно для XDNA 2
|
||||
|
||||
**Что есть:**
|
||||
- Ryzen AI Software 1.7.0 (февраль 2026) поддерживает 8845H (Hawk Point)
|
||||
- [AMD LIRA](https://github.com/amd/LIRA) — CLI для ASR на NPU, поддерживает whisper base/small/medium
|
||||
- [AMD-форк whisper.cpp](https://github.com/amd/whisper.cpp) с NPU-бэкендом
|
||||
- Pre-квантизированные модели на HuggingFace (`amd/NPU-Whisper-Base-Small`)
|
||||
|
||||
**Ограничения на XDNA 1 (8845H):**
|
||||
- 16 TOPS — в 3 раза слабее XDNA 2 (50 TOPS)
|
||||
- **Только encoder** на NPU, decoder на CPU — ускорение частичное
|
||||
- whisper-large-v3 не помещается
|
||||
- Установка через отдельный installer AMD, не pip/uv
|
||||
- Форк whisper.cpp не в mainline — риск отставания
|
||||
|
||||
**Когда станет интересно:**
|
||||
- На железе с XDNA 2 (Ryzen AI 300+, 50 TOPS)
|
||||
- Когда AMD выпустит pip-пакет или upstreamит в whisper.cpp
|
||||
- Для сценариев, где CPU/GPU заняты другой работой
|
||||
|
||||
## Сводка
|
||||
|
||||
| Подход | Применимость | Ускорение | Сложность | Стабильность |
|
||||
|--------|-------------|-----------|-----------|--------------|
|
||||
| **whisper.cpp + Vulkan** | ✅ высокая | 3–4x vs CPU | низкая | хорошая |
|
||||
| DirectML (onnxruntime) | ❌ заблокирован | — | — | — |
|
||||
| AMD NPU (XDNA 1) | ⚠️ ограничен | частичное | высокая | средняя |
|
||||
| WinML (будущее) | ⏳ не готов | неизвестно | средняя | — |
|
||||
|
||||
## Детали по whisper.cpp + Vulkan
|
||||
|
||||
### Модели (GGML .bin формат, НЕ GGUF)
|
||||
|
||||
Скачивать с https://huggingface.co/ggerganov/whisper.cpp/tree/main
|
||||
|
||||
| Модель | Файл | Размер |
|
||||
|--------|------|--------|
|
||||
| medium f16 | `ggml-medium.bin` | 1.53 ГБ |
|
||||
| medium q8_0 | `ggml-medium-q8_0.bin` | 823 МБ |
|
||||
| medium q5_0 | `ggml-medium-q5_0.bin` | 539 МБ |
|
||||
| large-v3 f16 | `ggml-large-v3.bin` | 3.1 ГБ |
|
||||
| large-v3 q5_0 | `ggml-large-v3-q5_0.bin` | 1.08 ГБ |
|
||||
| large-v3-turbo f16 | `ggml-large-v3-turbo.bin` | 1.62 ГБ |
|
||||
| large-v3-turbo q8_0 | `ggml-large-v3-turbo-q8_0.bin` | 874 МБ |
|
||||
|
||||
### Python-биндинги
|
||||
|
||||
**pywhispercpp** (v1.4.1) — pip wheel CPU-only. Для Vulkan нужна сборка из исходников:
|
||||
```bash
|
||||
GGML_VULKAN=1 pip install git+https://github.com/absadiki/pywhispercpp
|
||||
```
|
||||
Требует: VulkanSDK, cmake, C++ компилятор.
|
||||
|
||||
### Subprocess-подход (альтернатива)
|
||||
|
||||
whisper-cli принимает WAV 16kHz mono, выдаёт JSON с таймкодами:
|
||||
```bash
|
||||
whisper-cli -m ggml-medium.bin -f audio.wav -l ru -oj -of output
|
||||
```
|
||||
|
||||
Для видео/mp3 нужна предварительная конвертация через ffmpeg (PyAV уже есть в зависимостях).
|
||||
|
||||
### Сборка whisper.cpp с Vulkan
|
||||
|
||||
```bash
|
||||
# Linux/WSL
|
||||
sudo apt install cmake build-essential libvulkan-dev
|
||||
git clone https://github.com/ggml-org/whisper.cpp
|
||||
cd whisper.cpp
|
||||
cmake -B build -DGGML_VULKAN=ON -DCMAKE_BUILD_TYPE=Release
|
||||
cmake --build build --config Release -j$(nproc)
|
||||
# -> build/bin/whisper-cli
|
||||
```
|
||||
|
||||
## Прототип: whisper.cpp в WSL2 (2026-03-23)
|
||||
|
||||
### Сборка
|
||||
|
||||
whisper.cpp собран с `-DGGML_VULKAN=ON`, но **Vulkan GPU не обнаружен**:
|
||||
|
||||
```
|
||||
ggml_vulkan: No devices found.
|
||||
whisper_backend_init_gpu: no GPU found
|
||||
```
|
||||
|
||||
**Причина**: WSL2 не предоставляет Vulkan-доступ к AMD GPU.
|
||||
- `/dev/dxg` есть (DirectX 12 paravirtualization), но **dozen** (Vulkan-over-D3D12) драйвер
|
||||
отсутствует в текущей mesa (25.2.8)
|
||||
- RADV (нативный Vulkan) не работает — нет `/dev/dri/renderD128`
|
||||
- Единственный Vulkan-девайс — `llvmpipe` (CPU-эмуляция), whisper.cpp его игнорирует
|
||||
|
||||
Whisper.cpp отработал **на CPU** (4 потока, AVX512).
|
||||
|
||||
### Скорость (CPU fallback)
|
||||
|
||||
| Параметр | Значение |
|
||||
|----------|----------|
|
||||
| Модель | ggml-medium.bin (f16, 1533 МБ) |
|
||||
| Аудио | 14:41 (881с), русский, 3 участника |
|
||||
| Общее время | **886с** |
|
||||
| encode | 368с (32 прохода, 11.5с/проход) |
|
||||
| batchd (decode) | 424с |
|
||||
| Потоки | 4 / 16 |
|
||||
| Beam search | 5 beams + best of 5 |
|
||||
|
||||
Сравнение с бенчмарком (тот же аудиофайл):
|
||||
|
||||
| Конфигурация | Время, с |
|
||||
|---|---|
|
||||
| OpenVINO fp16 (medium) | ~240 |
|
||||
| CT2 int8_float32 (medium) | ~599 |
|
||||
| CT2 float32 (medium) | ~881 |
|
||||
| **whisper.cpp CPU (medium f16)** | **~886** |
|
||||
|
||||
На CPU whisper.cpp ≈ CTranslate2 float32. Без GPU ускорения нет.
|
||||
|
||||
### Качество (сравнение с бенчмарком)
|
||||
|
||||
#### Техтермины
|
||||
|
||||
| Термин | whisper.cpp (CPU) | CT2 f32 | CT2 int8f32 |
|
||||
|--------|------------------|---------|-------------|
|
||||
| DWH | ✅ DWH | ⚠️ ДВХ | ✅ DWH |
|
||||
| Teradata | ✅ TeraData | ⚠️ Тирадату | ✅ Teradata |
|
||||
| NiFi | ⚠️ Найфай/Найфаю | ⚠️ Найфай | ✅ NiFi |
|
||||
| FineBI | ✅ fineBI/FNBI | ✅ FNBI | ✅ finebi/FNBI |
|
||||
| Alation | ✅ Allation | ✅ Allation | ✅ Allation |
|
||||
| ETL | ✅ ETL | ✅ ETL | ✅ ETL |
|
||||
| DBC Tables V | ✅ DBC tables-V | ✅ | ✅ |
|
||||
| OpenLineage | ✅ OpenLinage.io | ✅ OpenLinage.io | ✅ OpenLinage.io |
|
||||
|
||||
#### Русская разговорная речь
|
||||
|
||||
| Фраза | whisper.cpp (CPU) | CT2 f32 | CT2 int8f32 |
|
||||
|-------|------------------|---------|-------------|
|
||||
| "на другую мониторочку" | ✅ "на другом мониторчике" | ✅ "мониторчику" | ⚠️ "мою точку" |
|
||||
| "верхнеуровневое" | ✅ | ✅ | ✅ |
|
||||
| "датарентген" | ✅ "даторентген" | ✅ "даторентген" | ✅ "даторентген" |
|
||||
| "девовские схемы" | ✅ | ✅ | ✅ |
|
||||
| "с накиданными правами" | ✅ | ✅ | ✅ |
|
||||
| "Вьюхи" | ⚠️ "Yuhi" | ✅ "Вьюхи" | ⚠️ "Yuhi" |
|
||||
|
||||
#### Структура и пунктуация
|
||||
|
||||
| Аспект | whisper.cpp (CPU) | CT2 f32 | CT2 int8f32 |
|
||||
|--------|------------------|---------|-------------|
|
||||
| Пунктуация | хорошая | хорошая | хорошая |
|
||||
| Длина сегментов | 1–10 сек | ~1 мин | ~1 мин |
|
||||
|
||||
**Вывод по качеству**: whisper.cpp medium f16 на уровне CTranslate2 float32/int8_float32.
|
||||
Качество сопоставимо, различия минимальны. Сегменты короче (1–10 сек vs ~1 мин) —
|
||||
это даже лучше для навигации по транскрипту.
|
||||
|
||||
### Блокер: Vulkan в WSL2 для AMD
|
||||
|
||||
Для получения GPU-ускорения нужно одно из:
|
||||
|
||||
1. **Нативный Linux** (dual boot / bare metal) — RADV драйвер работает с Radeon 780M
|
||||
2. **Windows-сборка** — нативный Vulkan через AMD Adrenalin драйвер
|
||||
3. **WSL2 + dozen** — экспериментальный Vulkan-over-D3D12 драйвер mesa.
|
||||
Статус: [в разработке](https://gitlab.freedesktop.org/mesa/mesa/-/merge_requests?search=dozen),
|
||||
не включён в стандартную mesa Ubuntu.
|
||||
Потенциально можно собрать mesa из исходников с `-Dvulkan-drivers=microsoft-experimental`
|
||||
|
||||
**Рекомендация**: попробовать Windows-сборку whisper.cpp — это самый простой путь
|
||||
к Vulkan + Radeon 780M. Либо собрать mesa с dozen для WSL2.
|
||||
|
||||
## Прототип: whisper.cpp + Vulkan на Windows (2026-03-23)
|
||||
|
||||
### Сборка
|
||||
|
||||
whisper.cpp собран на Windows с MinGW (MSYS2) + Vulkan:
|
||||
```
|
||||
cmake -B build-vulkan -G "MinGW Makefiles" -DGGML_VULKAN=ON -DCMAKE_BUILD_TYPE=Release
|
||||
```
|
||||
|
||||
Vulkan GPU обнаружен:
|
||||
```
|
||||
ggml_vulkan: Found 1 Vulkan devices:
|
||||
ggml_vulkan: 0 = AMD Radeon(TM) 780M (AMD proprietary driver) | uma: 1 | fp16: 1 |
|
||||
warp size: 64 | shared memory: 32768 | int dot: 1 | matrix cores: KHR_coopmat
|
||||
```
|
||||
|
||||
### Проблема: зацикливание (repetition loop)
|
||||
|
||||
Первый запуск (дефолтные параметры): **520с**, но с ~07:00 модель зациклилась
|
||||
на фразе "Ну, опять же, они могут завести…" — повторяется ~170 раз до конца записи.
|
||||
Потеряна половина транскрипта.
|
||||
|
||||
**Причина**: whisper.cpp передаёт контекст предыдущего сегмента в декодер (`-mc -1`),
|
||||
что провоцирует repetition loop на длинных записях с паузами/перебивками.
|
||||
|
||||
**Решение**: `-mc 0` (не передавать контекст между сегментами).
|
||||
|
||||
### Скорость (Vulkan, -mc 0)
|
||||
|
||||
| Параметр | Значение |
|
||||
|----------|----------|
|
||||
| Модель | ggml-medium.bin (f16, 1533 МБ) на Vulkan GPU |
|
||||
| Аудио | 14:41 (881с), русский, 3 участника |
|
||||
| Общее время | **432с** |
|
||||
| encode | 123.5с (35 проходов, 3.5с/проход) |
|
||||
| batchd (decode) | 252.7с |
|
||||
| Потоки | 4 / 16 |
|
||||
|
||||
Сравнение с бенчмарком (тот же аудиофайл):
|
||||
|
||||
| Конфигурация | Время, с | Ускорение vs CPU f32 |
|
||||
|---|---|---|
|
||||
| OpenVINO fp16 (medium) | ~240 | 3.7x |
|
||||
| **whisper.cpp Vulkan + Radeon 780M** | **~432** | **2.0x** |
|
||||
| **CT2 int8_float32, 8 threads** | **~458** | **1.9x** |
|
||||
| CT2 int8_float32, 16 threads | ~498 | 1.8x |
|
||||
| CT2 int8_float32, default (4 threads) | ~599 | 1.5x |
|
||||
| CT2 float32 / whisper.cpp CPU | ~881-886 | 1.0x |
|
||||
|
||||
**Оптимизация потоков**: CTranslate2 по умолчанию использует 4 потока (`cpu_threads=0`).
|
||||
На Ryzen 7 8845H (8 ядер / 16 потоков) оптимум — **8 потоков** (по числу физических ядер).
|
||||
16 потоков (SMT/hyperthreading) не помогают — контекст-свитчинг нивелирует выигрыш.
|
||||
Управление: `OMP_NUM_THREADS=8` или параметр `cpu_threads` в WhisperModel.
|
||||
|
||||
CT2 int8_float32 с 8 потоками (**458с**) почти догоняет whisper.cpp Vulkan (**432с**)
|
||||
без дополнительных зависимостей.
|
||||
|
||||
### Качество (Vulkan, -mc 0)
|
||||
|
||||
#### Техтермины
|
||||
|
||||
| Термин | whisper.cpp Vulkan | CT2 int8f32 |
|
||||
|--------|-------------------|-------------|
|
||||
| DWH | ✅ DWH | ✅ DWH |
|
||||
| Teradata | ✅ TeraData | ✅ Teradata |
|
||||
| NiFi | ⚠️ IFI | ✅ NiFi |
|
||||
| FineBI | ✅ FindBI/FineBI/FNBI | ✅ finebi/FNBI |
|
||||
| Alation | ✅ Allation | ✅ Allation |
|
||||
| ETL | ✅ ETL | ✅ ETL |
|
||||
| DBC Tables V | ⚠️ dbc tables v (lowercase) | ✅ DBC Tables V |
|
||||
| OpenLineage | ✅ OpenLinage.io | ✅ OpenLinage.io |
|
||||
| Вьюхи | ✅ Вьюхи | ⚠️ Yuhi |
|
||||
|
||||
#### Русская разговорная речь и пунктуация
|
||||
|
||||
Качество сопоставимо с CT2 int8_float32. Пунктуация хорошая в обоих случаях.
|
||||
Сегменты у whisper.cpp короче (2-10 сек vs ~1 мин) — удобнее для навигации.
|
||||
|
||||
### Вывод
|
||||
|
||||
whisper.cpp + Vulkan на Radeon 780M даёт **432с** — всего **28% быстрее** CT2 int8_float32
|
||||
(599с). Разница недостаточна, чтобы оправдать сложность интеграции:
|
||||
|
||||
- Отдельная сборка whisper.cpp (cmake + MinGW + VulkanSDK)
|
||||
- Другой формат моделей (GGML вместо CTranslate2)
|
||||
- Workaround `-mc 0` от зацикливания
|
||||
- Конвертация в WAV (whisper.cpp не принимает mp4 напрямую)
|
||||
- Ещё одна зависимость для пользователя
|
||||
|
||||
**CT2 int8_float32 остаётся оптимальным выбором**: уже встроен в проект, zero-config,
|
||||
хорошее качество, приемлемая скорость.
|
||||
|
||||
## Рекомендуемый план (обновлённый)
|
||||
|
||||
1. ~~**Прототип в WSL** — собрать whisper.cpp с Vulkan, прогнать тестовый файл~~ ✅ Сделано
|
||||
2. ~~**Качество подтверждено** — whisper.cpp medium f16 ≈ CT2 float32/int8_float32~~ ✅
|
||||
3. ~~**GPU-ускорение в WSL2** — Vulkan не видит AMD GPU~~ ✅ Подтверждено
|
||||
4. ~~**Windows-сборка с Vulkan** — 432с, 2x vs CPU, но всего 28% vs CT2 int8_float32~~ ✅
|
||||
5. **Решение**: whisper.cpp + Vulkan не оправдывает себя на Radeon 780M iGPU.
|
||||
CT2 int8_float32 — оптимальный дефолт для CPU без CUDA.
|
||||
6. NPU — отложить до XDNA 2 или до появления pip-пакета от AMD
|
||||
7. Пересмотреть при появлении дискретного AMD GPU или WinML с Python-поддержкой
|
||||
@@ -0,0 +1,442 @@
|
||||
# Карта end-to-end архитектур CPU-диаризации
|
||||
|
||||
**Дата:** 2026-09-01
|
||||
|
||||
**Статус:** выбран один кандидат для свежего минимального A/B - Streaming
|
||||
Sortformer 4spk v2 Q8_0 через закрепленный NeMo-Speech.cpp. Это единственная
|
||||
ветвь, где полная замена каскада опирается на готовые Q8_0 веса и закрепляемый
|
||||
локальный CPU runtime. Production-профиль, CLI, конфигурационный контракт и
|
||||
модель по умолчанию не меняются.
|
||||
|
||||
Документ сохраняет обезличенные агрегаты задач #41 и #42. Старые закрытые
|
||||
хранилища временно остаются архивом только для чтения до завершения и приемки
|
||||
задачи #46. Ни стенд, ни сравнение в задаче #46 не должны получать к ним доступ:
|
||||
новая измерительная основа создается заново. После приемки нового результата
|
||||
архив можно удалить; тогда его данные нельзя будет получить повторно без нового
|
||||
вычисления. Здесь нет локальных путей, идентификаторов записей, текста,
|
||||
временных интервалов, manifest-содержимого или сырых строк результата.
|
||||
Непрозрачные SHA-256 уже опубликованных результатов оставлены как устойчивые
|
||||
ссылки на исторические байты. Они не создают будущую зависимость от этих байтов.
|
||||
|
||||
## Источники реестра
|
||||
|
||||
- [Intel-отчет](../benchmarks/2026-08-31-cpu-diarization-intel.md);
|
||||
- [Ryzen-отчет](../benchmarks/2026-08-31-cpu-diarization-ryzen.md);
|
||||
- [спецификация прежнего эксперимента](../specs/2026-08-30-cpu-diarization-experiment.md);
|
||||
- [ADR-007](../adr/007-word-level-speaker-diarization.md).
|
||||
|
||||
## Как читать реестр
|
||||
|
||||
`Ускорение` ниже означает сокращение wall time:
|
||||
|
||||
`100 x (wall_baseline - wall_candidate) / wall_baseline`.
|
||||
|
||||
Отрицательное значение означает замедление. Intel W/M/Q/E - одиночные
|
||||
разведочные прогоны трех 300-секундных фрагментов, если явно не указана соседняя
|
||||
пара. Ryzen-строки - принятые соседние A/B. ASR, загрузка моделей и декодирование
|
||||
не входят в wall.
|
||||
|
||||
Обязательный автоматический gate: `3 / 2 / 2` голосовых кластера, неизменный
|
||||
текст, повторяемые параметры/метки/финализация, конечные эмбеддинги и отсутствие
|
||||
потерянных или продублированных входов. `51 / 13 / 9` слов без говорящего и
|
||||
`mapped speaker purity = 0,76655 / 0,78742` - диагностика совпадающего baseline,
|
||||
а не ручная истина. Рост диагностического показателя требует прослушивания, но
|
||||
сам по себе не превращает вариант в проигравший.
|
||||
|
||||
## Переносимые рецепты
|
||||
|
||||
Все Intel-рецепты используют четыре физических ядра; Ryzen-рецепты - восемь.
|
||||
Везде `inter_op_threads=1`, batch 1, если строка не говорит обратного.
|
||||
Код измерительного стенда закреплен source commit
|
||||
`6345cb6449d906767b6ed33e695f2ca4eeaf3008`; sherpa-onnx 1.13.6 - upstream
|
||||
commit `1cb484af9b1ab05cc36f89e03dd7d76322f2e911` плюс опубликованный ниже патч.
|
||||
Последовательные W0-рецепты используют CPU provider для segmentation и
|
||||
embeddings, `debug=True` для обеих конфигураций,
|
||||
`min_duration_on=0.3` и `min_duration_off=0.5`. Debug-режим входит в
|
||||
измерительный рецепт: из его журнала получены native stage times.
|
||||
|
||||
| Recipe ID | Точный переносимый рецепт |
|
||||
|---|---|
|
||||
| `I-B135` | `sherpa-onnx/core 1.13.5`; Pyannote Segmentation 3.0 FP32; WeSpeaker ResNet34 LM FP32; `window_shift_ratio=0.1`; последовательный инференс; один worker/session; `intra_op=4`; `FastClustering`, auto-N, threshold `0.89`. |
|
||||
| `I-B136` / `I-W0` / `I-M0` / `I-Q0` / `I-E0` / `I-C0` | Тот же профиль, но `sherpa-onnx/core 1.13.6`; это совпадающий Intel baseline. |
|
||||
| `I-W(r)` | `I-B136`, меняется только `window_shift_ratio=r`. |
|
||||
| `I-M2` / `I-C1` | `I-B136`, но CAMPPlus вместо WeSpeaker; NME автоматически выбрал `p=111/54/104`, затем N=`3/2/2` и `FastClustering(N)`; sequential. |
|
||||
| `I-M3` | `I-B136`, но TitaNet small вместо WeSpeaker; NME автоматически выбрал `p=90/65/110`, затем N=`3/2/2` и `FastClustering(N)`; sequential. |
|
||||
| `I-Q1` | `I-B136`, но WeSpeaker S8S8 QDQ вместо FP32; sequential. |
|
||||
| `I-E1` / `I-C2` | `I-B136`, но два outer worker используют одну shared ONNX Runtime session и общий `intra_op=4`. |
|
||||
| `I-E2` | `I-B136`, но четыре outer worker, одна shared session, `intra_op=1`. |
|
||||
| `I-E3` | `I-B136`, но четыре outer worker и четыре отдельные session, у каждой `intra_op=1`; отрицательный контроль. |
|
||||
| `R-B` | `sherpa-onnx/core 1.13.6`; Pyannote FP32; WeSpeaker FP32; shift `0.1`; `FastClustering(auto, 0.89)`; sequential; один worker/session; `intra_op=8`. |
|
||||
| `R-C2` | `R-B`, но два outer worker, одна shared session, общий `intra_op=8`. |
|
||||
|
||||
Закрепленные SHA-256 моделей: Pyannote FP32
|
||||
`220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079`,
|
||||
WeSpeaker FP32
|
||||
`e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012`,
|
||||
WeSpeaker QDQ
|
||||
`9a3f8ae64d1083b64a6276f1e1138b17b7511a9a8d731b632945efc84098588b`,
|
||||
CAMPPlus
|
||||
`aa3cfc16963a10586a9393f5035d6d6b57e98d358b347f80c2a30bf4f00ceba2`,
|
||||
TitaNet small
|
||||
`ad4a1802485d8b34c722d2a9d04249662f2ece5d28a7a039063ca22f515a789e`.
|
||||
Экспериментальные `Prepare/Finalize` и shared worker требовали патч
|
||||
`5f12df858cd525c8a0cfe8ff95b647c3b0e915a13d45621acc4ac42660014c49`:
|
||||
API не было ни в 1.13.6, ни в проверенном upstream master. Ryzen-wheel был
|
||||
пересобран из того же upstream commit и патча из-за несовместимости GLIBC;
|
||||
его опубликованный SHA-256 -
|
||||
`baaaa2532606f1e1411e5c84655afa70107ad4b1676420953f5e67233c46a484`.
|
||||
|
||||
## Реестр: baselines и проверки механизмов
|
||||
|
||||
| Stable ID | Recipe / измененная ось | Машина / стадия | Wall / ускорение / RSS | Обязательное качество | Решение и точная причина | Публичное доказательство |
|
||||
|---|---|---|---|---|---|---|
|
||||
| `41-V135` | `I-B135`; version baseline | Intel / version baseline | `190,104 с`; baseline; `365,7 МиБ` в соответствующем сыром агрегате | `3/2/2`, текст и диагностика baseline | Принят как контроль версии; одиночный запуск не доказывает причинное ускорение/замедление версии | `docs/benchmarks/2026-08-31-cpu-diarization-intel.md`, "Зачем понадобился 1.13.6" |
|
||||
| `41-V136` | `I-B136`; меняется только runtime 1.13.5->1.13.6 | Intel / version baseline | `157,892 с`; `+16,94%` к `41-V135`; `356,7 МиБ` | `3/2/2`; канонические интервалы, назначения слов и диагностика совпали | Baseline 1.13.6 принят; разница времени диагностическая, без повторов | тот же раздел; SHA `eb7e3d508836e1eefd679a851271eaa6823d688fef39d2ae03978e7fa7006bba` |
|
||||
| `41-S-WINDOW` | 1.13.6 принимает shift `0.10/0.15/0.20/0.25/0.50`; `0.10` сохраняет поведение | Intel / smoke | end-to-end wall/RSS: not measured | Smoke пройден | Допустить W0-W4 | `docs/specs/2026-08-30-cpu-diarization-experiment.md`, этап 0 |
|
||||
| `41-S-PF` | Локальный `Prepare -> cluster(copy) -> Finalize` против штатного `process()` | Intel / smoke | wall/ускорение/RSS: not measured | Строки, метки и интервалы совпали; пропусков/дублей нет | Использовать патч в стенде | Intel-отчет, этап 0 |
|
||||
| `41-S-MANIFEST` | Строгая schema v3 и стабильные ID ячеек | Intel / smoke | не применимо | Валидация капсулы: 199 файлов, QDQ доступен, предупреждений нет | Использовать; это механизм воспроизводимости, не измерительная ячейка | Ryzen-отчет, handoff |
|
||||
| `41-S-CEIG` | CAMPPlus prepared-матрицы; eigengap | Intel / counter smoke | counter wall по трем матрицам `0,107 / 1,575 / 0,067 с`; end-to-end ускорение/RSS: not measured | N=`6/1/7`, не `3/2/2` | Исключить счетчик для CAMPPlus: обязательный count gate провален | Новый aggregate задачи #45 из frozen raw; previous result SHA not published |
|
||||
| `41-S-CNME` | Те же CAMPPlus-матрицы; NME + `FastClustering(N)` | Intel / counter smoke | counter wall `3,536 / 1,488 / 1,148 с`; end-to-end ускорение/RSS: not measured | N=`3/2/2`, повторяемые метки, 0 потерянных строк | Выбрать для M2/C1 | Intel-отчет, индекс доказательств |
|
||||
| `41-S-TEIG` | TitaNet prepared-матрицы; eigengap | Intel / counter smoke | counter wall `0,126 / 0,073 / 0,101 с`; end-to-end ускорение/RSS: not measured | N=`7/2/4`, не `3/2/2` | Исключить счетчик для TitaNet: count gate провален | Новый aggregate задачи #45 из frozen raw; previous result SHA not published |
|
||||
| `41-S-TNME` | Те же TitaNet-матрицы; NME + `FastClustering(N)` | Intel / counter smoke | counter wall `1,084 / 0,780 / 1,112 с`; end-to-end ускорение/RSS: not measured | N=`3/2/2`, повторяемые метки, 0 потерянных строк | Выбрать для M3 | Intel-отчет, индекс доказательств |
|
||||
| `41-S-QDQ` | WeSpeaker S8S8 QDQ, 48 независимых calibration-интервалов | Intel / artifact smoke | wall/ускорение/RSS: not measured | interface/opset/metadata, checker, dynamic shapes и загрузка sherpa пройдены | Допустить Q1; техническая корректность не означает качество/скорость | Intel-отчет, этап 0; model SHA выше |
|
||||
| `41-S-SHARED` | Один и два worker, одна session, одинаковые prepared-входы | Intel / worker smoke | wall/ускорение/RSS: not measured | строки, метки и интервалы совпали; гонок/NaN/потерь нет | Допустить E1/E2 | Ryzen-отчет, этап 0 |
|
||||
| `41-S-TB1` | TitaNet batch 1 | Intel / embedding smoke | embedding-only `75,923 с` суммарно; ускорение/RSS: not measured | штатные эмбеддинги воспроизведены, max abs drift <= `3,4e-6` | Контроль batch | Ryzen-отчет, этап 3; batch SHA `f12bfdb5cadf80c62871c0725eac744a99825cb5d06b70fcf11e4e538ff6df72` |
|
||||
| `41-S-TB4` | TitaNet batch 4 | Intel / embedding smoke | embedding-only `98,596 с`, на `29,86%` медленнее batch 1; RSS: not measured | `3/2/2`, но метки всех трех матриц изменились; drift `0,277-0,317` | Остановить до CPU-ячейки: медленнее и нарушена идентичность меток | Ryzen-отчет, этап 3; тот же batch SHA |
|
||||
|
||||
Counter wall в строках `41-S-CEIG` и `41-S-TEIG` впервые опубликован в задаче
|
||||
#45 как безопасный aggregate frozen raw evidence. Прежний result SHA не был
|
||||
опубликован; после удаления хранилища эти числа нельзя повторно сверить с
|
||||
исходными байтами.
|
||||
|
||||
Примечание к `41-V135`: публичный Intel-индекс печатает SHA
|
||||
`c53c1f970ee4db094779bc32b42f978c37c2cb74d814504ccfac87f09e802ddd`,
|
||||
но этот хеш связывает другой сырой агрегат (`148,806 с`), а не опубликованные
|
||||
`190,104 с`. Сырой результат с `190,104 с` имеет неопубликованный хеш. Поэтому
|
||||
для этой строки устойчивым публичным доказательством остается только якорь
|
||||
публичного отчета; после удаления хранилища байтовая проверка числа невозможна.
|
||||
|
||||
## Реестр: Intel W/M/Q/E/C
|
||||
|
||||
| Stable ID | Recipe / измененная ось | Wall / ускорение / RSS | Обязательное качество и диагностика | Решение и точная причина | Публичное доказательство |
|
||||
|---|---|---|---|---|---|
|
||||
| `41-W0` | `I-W(0.10)`, совпадающий baseline | `148,220 с`; baseline; `361,2 МиБ` в том же raw result | pass `3/2/2`; слова без говорящего `51/13/9` | Принять shift `0.10` | SHA `32d513cd0e81fdca0e37484f86b5c4312d3573608493972a282302dd891cdf0e` |
|
||||
| `41-W1` | `I-W(0.15)`; меняется только shift | `100,799 с`; `+31,99%`; `362,6 МиБ` | fail `2/2/2`; `50/17/9` | Исключить: потерян кластер на первом фрагменте | SHA `be8935b5a81e2aadaeb38540e615c0cd3ae5ac31d6e0949856fd7d16d31a78ea` |
|
||||
| `41-W2` | `I-W(0.20)` | `76,127 с`; `+48,64%`; `363,6 МиБ` | fail `2/2/2`; `52/13/9` | Исключить: потерян кластер | SHA `f95433d516772d40c4071da0d0745b981314ee7a7063fb4a43518e94bc17848e` |
|
||||
| `41-W3` | `I-W(0.25)` | `61,369 с`; `+58,60%`; `358,4 МиБ` | fail `2/2/2`; `59/16/11` | Исключить: потерян кластер | SHA `14cac4f1d8cd38ed5b4a20189438d2b1e109ba267c5feaa36f0928fbec848580` |
|
||||
| `41-W4` | `I-W(0.50)` | `31,291 с`; `+78,89%`; `360,7 МиБ` | fail `1/2/2`; `0/19/10` | Исключить: потеряны два кластера суммарно относительно `3/2/2` | SHA `6fafefce00e90590ab2d834fb560413cd7780e20cbd1f631d9954ec8b97a540e` |
|
||||
| `41-M0` | `I-M0`; baseline модельной оси | Переиспользован `41-W0`: `148,220 с`; `361,2 МиБ`; отдельное ускорение: not measured | Качество baseline прошло | Точка сравнения; не новая гипотеза | Ryzen-отчет, этап 2; SHA W0 выше |
|
||||
| `41-M2` | `I-M2`; меняются embedding model и estimator N | `94,550 с`; `+36,21%`; `358,6 МиБ` | Обязательный gate пройден: `3/2/2`; `53/13/9` | Самая быстрая модельная ветвь; собрать C1, но диагностический рост требует слухового gate | SHA `3debc8ae5cf1bd13d806dbfe8e4cfa137d6705622a721f4a42f1a22c030ec277` |
|
||||
| `41-M3` | `I-M3`; меняются embedding model и estimator N | `107,205 с`; `+27,67%`; `511,9 МиБ` | Обязательный gate пройден: `3/2/2`; `52/13/9` | Не выбирать: медленнее и тяжелее M2; обязательный gate при этом пройден | SHA `531a842234e35e29f582ff8a51406fb9dd6211e017b3162d80cca21d4732d316` |
|
||||
| `41-Q0` | `I-Q0`; baseline quantization-оси | Переиспользован `41-W0`; отдельный raw aggregate: not published | Качество baseline прошло | Точка сравнения; не новая гипотеза | Старая спецификация, QDQ |
|
||||
| `41-Q1` | `I-Q1`; FP32->S8S8 QDQ | `177,537 с`; `-19,78%` (замедление); `367,7 МиБ` | `fail`: `2/2/2`; `51/13/8` | Исключить: медленнее и потерян кластер | Intel-отчет, этапы 2-3; result SHA not published |
|
||||
| `41-Q-U8-SKIP` | Условный U8U8; меняется формат квантизации; Intel / этап 3 | wall/ускорение/RSS: not measured | Качество: not measured | Ветка не открылась: S8S8 не достиг 10%-го порога продолжения и провалил обязательное качество | Старая спецификация, этап 3; result SHA not published |
|
||||
| `41-E0a` | `I-E0`; companion baseline для E1 | Отдельные wall/ускорение/RSS: not published; отдельный result blob: not published; сравнительный W0=`148,220 с` | Качество baseline прошло | Служебная baseline-ячейка; самостоятельного решения нет | Intel-отчет, таблица ID ячеек |
|
||||
| `41-E1` | `I-E1`; topology 1 worker->2 shared workers | `139,219 с`; `+6,07%`; `398,6 МиБ` | Качество прошло: `3/2/2`; метки/интервалы/диагностика совпали | Ниже Intel-порога продолжения, но допущен как заранее оговоренная ISA-гипотеза для собственного Ryzen A/B | SHA `f5ac41d29eeff1f7cfbb93497a0025aef40de0838e933e0f9baed30a236d6b85` |
|
||||
| `41-E0b` | `I-E0`; companion baseline для E2 | Отдельные wall/ускорение/RSS: not published; сравнительный W0=`148,220 с` | Качество baseline прошло | Служебная baseline-ячейка | Intel-отчет, таблица ID ячеек |
|
||||
| `41-E2` | `I-E2`; 4 shared workers, `intra_op=1` | `152,167 с`; `-2,66%`; `551,2 МиБ` | pass `3/2/2`, точное совпадение результата | Исключить: медленнее и больше RSS | SHA `f2664d354ede1e4bf2c42b974513cdc845ff601c73f30ebae51456764fd8dcdc` |
|
||||
| `41-E0c` | `I-E0`; companion baseline для E3 | Отдельные wall/ускорение/RSS: not published; сравнительный W0=`148,220 с` | Качество baseline прошло | Служебная baseline-ячейка | Intel-отчет, таблица ID ячеек |
|
||||
| `41-E3` | `I-E3`; shared->4 separate session | `159,038 с` составная оценка; `-7,30%`; `732,3 МиБ` process-wide | `pass`: `3/2/2`; метки совпали | Исключить: отрицательный контроль подтвердил рост времени и памяти; wall не равноправен штатному `process()` | Intel-отчет, этапы 2-3; result SHA not published |
|
||||
| `41-C0` | `I-C0`; рабочий shift + baseline stack | wall/ускорение/RSS: not measured | по определению совпадает с прошедшим W0 | Явно пропущена как дубликат baseline | Intel-отчет, этап 1/4 |
|
||||
| `41-C1` | `I-C1`; финальная проверка сильнейшей Intel-ветви | `98,347 с`; `+33,65%` к одиночному W0; `399,5 МиБ` | Обязательный gate пройден: `3/2/2`, purity `0,80137/0,91079`; слова `53/13/9` (`+2` на первом фрагменте) | **Неразрешенный слуховой gate: ни победитель, ни проигравший.** Не передавать до прослушивания подготовленных мест | SHA `4f96e6f7363e0edb79d4034a07f4d3b6b0003a820fcf6bceff5426bb3c2caff4` |
|
||||
| `41-W0C2-SWAP` | `I-B136`; первая попытка guarded baseline; Intel / финальная пара | wall/ускорение/RSS: not published | Качество: not published | Отклонить: runtime guard обнаружил swap-in | Intel-отчет, раздел "Условия"; result SHA not published |
|
||||
| `41-W0C2` | `I-B136`; соседний guarded baseline | `146,978 с`; baseline; `376,4 МиБ` | Качество прошло; диагностика baseline | Допустимая база сравнения только для `41-C2` | SHA `e572dd057ec87514aca4617465c48ce361677ae19279efcadbbde404afc85b5d` |
|
||||
| `41-C2` | `I-C2`; baseline->2 shared workers | `140,632 с`; `+4,32%`; `406,0 МиБ` | Обязательная и диагностическая проверка точно совпала с `41-W0C2` | Intel-порог не достигнут; передать как работоспособную аппаратную ISA-гипотезу по явному правилу спецификации | SHA `d687074cc582e2ac379ed3375362f9480778feca02c7492a4c4be4fcc1a4f15a` |
|
||||
|
||||
`M1` не был ячейкой согласованной матрицы: нумерация spec - M0, M2, M3.
|
||||
|
||||
В публичной сводке для W0/M0 указан RSS `362,6 МиБ`, однако опубликованный
|
||||
SHA W0 связывает wall `148,220 с` с RSS `361,2 МиБ`. В реестре выше сохранена
|
||||
согласованная пара из одного raw result; публичные `362,6 МиБ` нельзя привязать
|
||||
к тому же опубликованному SHA.
|
||||
|
||||
## Реестр: Ryzen, этапы 5-6
|
||||
|
||||
Для каждой A/B-строки recipe baseline - `R-B`, candidate - `R-C2`; меняется
|
||||
только topology embedding-инференса. Все ячейки прошли обязательный gate и
|
||||
сохранили baseline-диагностику (`3/2/2`, `51/13/9`, та же purity, те же числа
|
||||
окон/embedding jobs, без потерь или дублей).
|
||||
|
||||
| Stable ID | Машина / стадия / порядок | Wall baseline -> candidate / ускорение | RSS baseline -> candidate | Решение и точная причина | Published result SHA-256 |
|
||||
|---|---|---|---|---|---|
|
||||
| `42-W0` | Ryzen / matching baseline | `110,998 с`; candidate: not measured | `370,4 МиБ`; candidate: not measured | Baseline принят | `f50684784392cacc2d99c8aee51d01f0a67dfee3da6ea3ba5f3db749a3d5287a` |
|
||||
| `42-E1-AB` | Ryzen / isolated mechanism / W0->E1 | `111,557 -> 84,723 с`; `24,05%` | `367,3 -> 412,2 МиБ` | Механизм прошел качество, память и 10%-й порог продолжения | `24d5edae117e0619e432ef3f3019e8c66cf3516b87b80b64b8591390db25bf48` |
|
||||
| `42-C2-P` | Ryzen / primary / C2->W0 | `111,423 -> 85,909 с`; `22,90%` | `369,6 -> 410,3 МиБ` | Прошел primary-порог; допустить пять циклов | `142db6d06efc8d558b38e18f47f47e3e35e7df00751da2583339f99add8d75c4` |
|
||||
| `42-C2-F1` | Ryzen / final 1 / W0->C2 | `111,354 -> 83,529 с`; `24,99%` | `369,2 -> 413,4 МиБ` | Принятый цикл; качество pass | `4b5095c9e64ff0ef75bbc58516c662bedbbdb0bedf131f66cc1031c9a0ad8c7f` |
|
||||
| `42-C2-F2` | Ryzen / final 2 / C2->W0 | `108,899 -> 83,907 с`; `22,95%` | `373,0 -> 418,1 МиБ` | Принятый цикл; качество pass | `256a17b2d08510aad03d43f5c626c1a4269c9a25271ce492dc3305c4afca1888` |
|
||||
| `42-C2-F3` | Ryzen / final 3 / W0->C2 | `110,928 -> 84,968 с`; `23,40%` | `373,8 -> 410,9 МиБ` | Принятый цикл; качество pass | `b5d37c7a8b05b065c61bc9d5f1c0ab639a80a821730e505179388d90c4239caa` |
|
||||
| `42-C2-F4` | Ryzen / final 4 / C2->W0 | `114,985 -> 83,342 с`; `27,52%` | `376,6 -> 411,1 МиБ` | Принятый цикл; качество pass | `639cc9f13511a59c7240c6fb6ec6bf1c31ec26350330e3ca0c64fb721b768736` |
|
||||
| `42-C2-F5` | Ryzen / final 5 / W0->C2 | `113,233 -> 86,548 с`; `23,57%` | `358,6 -> 413,4 МиБ` | Принятый цикл; качество pass | `4ff2863a93fc22a037de5c292391b6b46de1b539cf397026b349ea5134cf1051` |
|
||||
| `42-STAGE6-SKIP` | Ryzen / этап 6 / `R-B` и `R-C2` на трех полных записях | wall/ускорение: not measured | RSS: not measured | Этап пропущен: медиана финальных циклов `23,57%` ниже порога `30%`; качество: not measured | Ryzen-отчет, "Итог"; result SHA not published |
|
||||
|
||||
Итог C2: медиана сокращения `23,57%`, MAD `0,62 п. п.`; до порога `go`
|
||||
`30%` не хватило `6,43 п. п.`. Качество и память прошли, скорость - нет;
|
||||
решение всей воронки `new map`. Stage 6 (полные записи и пятичастная слуховая
|
||||
приемка) не запускался, потому что победителя нет.
|
||||
|
||||
## Измеренное разложение текущего Ryzen baseline
|
||||
|
||||
### Семантика полей
|
||||
|
||||
В непатченном последовательном baseline outer `wall_seconds` измеряется вокруг
|
||||
одного `diarizer.process(samples)`. Native debug отдельно дает
|
||||
`segmentation_seconds`, `embedding_seconds`, `clustering_seconds` и
|
||||
`engine_total_seconds`. Поэтому для каждого из трех фрагментов, а затем для их
|
||||
суммы, допустимо вычислить:
|
||||
|
||||
`orchestration = measured outer wall - native engine total`.
|
||||
|
||||
Это остаток границы Python/native плюс progress callback и измерительный
|
||||
обвес; схема не позволяет разложить его дальше и не доказывает, что весь остаток
|
||||
принадлежит production-коду. Native stage и native total напечатаны с точностью
|
||||
до `0,001 с`; таблица округляет итоговые суммы до `0,001 с`. Разность использует
|
||||
сохраненные числа, до отображения не округляется.
|
||||
|
||||
У патченного shared-session runner `engine_total_seconds` намеренно записан
|
||||
равным outer wall всего `Prepare + counter + clustering + Finalize`. Это не
|
||||
отдельный native total. Поэтому для E1/C2 нельзя честно вычислить orchestration
|
||||
как `outer - native`: соответствующая величина **недоступна**, а ноль был бы
|
||||
артефактом схемы.
|
||||
|
||||
### Сумма трех записей в каждой принятой baseline-ячейке
|
||||
|
||||
| Baseline ID | Outer wall, с | Segmentation, с | Embeddings, с | Clustering, с | Native engine total, с | Orchestration, с |
|
||||
|---|---:|---:|---:|---:|---:|---:|
|
||||
| `42-W0` | 110,998 | 18,233 | 82,172 | 0,015 | 100,444 | 10,554 |
|
||||
| `42-E1-AB/W0` | 111,557 | 17,888 | 82,952 | 0,015 | 100,871 | 10,686 |
|
||||
| `42-C2-P/W0` | 111,423 | 19,685 | 83,635 | 0,014 | 103,357 | 8,066 |
|
||||
| `42-C2-F1/W0` | 111,354 | 18,614 | 84,596 | 0,015 | 103,240 | 8,114 |
|
||||
| `42-C2-F2/W0` | 108,899 | 21,071 | 79,911 | 0,012 | 101,010 | 7,889 |
|
||||
| `42-C2-F3/W0` | 110,928 | 21,204 | 81,722 | 0,016 | 102,960 | 7,968 |
|
||||
| `42-C2-F4/W0` | 114,985 | 19,594 | 84,715 | 0,013 | 104,342 | 10,643 |
|
||||
| `42-C2-F5/W0` | 113,233 | 21,625 | 82,884 | 0,013 | 104,540 | 8,693 |
|
||||
| **Суммарно: 8 ячеек / 24 записи** | **893,377** | **157,914** | **662,587** | **0,113** | **820,764** | **72,613** |
|
||||
|
||||
Stage-суммы отличаются от native total pooled на `0,150 с` (`0,017%` outer
|
||||
wall): это ожидаемый остаток тысячного округления native debug, а не оцененная
|
||||
пятая стадия.
|
||||
|
||||
Медианы по восьми matching baselines, рассчитанные из показанных значений без
|
||||
промежуточного округления: outer `111,388 с`, segmentation `19,6395 с`,
|
||||
embeddings `82,918 с`, clustering `0,0145 с`, native total
|
||||
`103,100 с`, orchestration `8,404 с`.
|
||||
|
||||
Наблюдаемый spread (max-min, процент относительно min):
|
||||
|
||||
| Величина | Диапазон, с | Spread |
|
||||
|---|---:|---:|
|
||||
| Outer wall | `108,899-114,985` | `6,087 с` / `5,59%` |
|
||||
| Segmentation | `17,888-21,625` | `3,737 с` / `20,89%` |
|
||||
| Embeddings | `79,911-84,715` | `4,804 с` / `6,01%` |
|
||||
| Clustering | `0,012-0,016` | `0,004 с`; относительный процент неинформативен при гранулярности `0,001 с` |
|
||||
| Native total | `100,444-104,540` | `4,096 с` / `4,08%` |
|
||||
| Orchestration residual | `7,889-10,686` | `2,797 с` / `35,45%` |
|
||||
|
||||
Это объясняет, почему Intel-разница W0/C2 `4,32%` неотличима от наблюдавшегося
|
||||
там разброса, а Ryzen-финал опирался на парные циклы, а не на один baseline.
|
||||
|
||||
## Доли, проверенные механизмы и Amdahl ceiling
|
||||
|
||||
Доли ниже - pooled stage time / pooled outer wall восьми matching Ryzen
|
||||
baseline. Amdahl ceiling предполагает невозможное идеальное удаление ровно
|
||||
одного компонента при неизменности остальных:
|
||||
|
||||
`max speedup = 1 / (1 - share)`.
|
||||
|
||||
| Компонент | Измеренная доля current Ryzen wall | Уже проверенные сокращения | Что осталось после эксперимента | Теоретический ceiling |
|
||||
|---|---:|---|---|---:|
|
||||
| Segmentation | `17,676%` | W1-W4 уменьшали число окон `291->195/146/117/59` на каждом фрагменте и вместе число embedding jobs; wall падал до `31,291 с`, но уже W1 потерял обязательный кластер | Без новой segmentation-модели/логики окон дальнейшее увеличение shift закрыто quality gate | максимум `1,2147x` (`17,676%` сокращения wall) при полном устранении стадии |
|
||||
| Embeddings | `74,167%` | CAMPPlus+NME (`36,21%` Intel, слуховой gate C1 открыт), TitaNet+NME (`27,67%`, тяжелее M2), QDQ (медленнее и fail), shared session (Ryzen median `23,57%`), 4 workers/separate sessions (хуже), TitaNet batch 4 (медленнее и другие метки) | Это доминирующая измеренная стадия; локальные замены прежнего каскада не дали принятого 30%-победителя | максимум `3,8709x` (`74,167%` wall) при полном устранении стадии |
|
||||
| Clustering | `0,013%` | Eigengap быстро, но неверный N; NME дал правильный N для CAMPPlus/TitaNet, однако его отдельный counter wall измеряется секундами и не является baseline native clustering time | Ускорять baseline `FastClustering` бессмысленно по Amdahl; менять алгоритм можно только ради качества/архитектуры | максимум `1,00013x` (`0,013%` wall) |
|
||||
| Orchestration residual | `8,128%` | `Prepare/Finalize` и shared worker прошли correctness smoke; отдельного эксперимента на сокращение остатка не было | Нельзя отделить project orchestration от callback/RSS/harness; candidate-side доля недоступна из текущей схемы | максимум `1,0885x` (`8,128%` wall) при полном устранении остатка |
|
||||
|
||||
Сумма четырех долей `99,983%`; недостающие `0,017%` - только эффект
|
||||
округления native stage logs. Нельзя складывать наблюденные ускорения разных
|
||||
ячеек как независимые: W-ветвь одновременно сокращала segmentation и число
|
||||
embedding jobs, а shared-session меняла исполнение embedding внутри патченного
|
||||
runner.
|
||||
|
||||
## Открытые gates и неизмеренные факты
|
||||
|
||||
1. **C1 остается неразрешенным слуховым gate - ни победитель, ни проигравший.**
|
||||
Обязательная автоматическая проверка прошла, скорость на Intel превысила
|
||||
30%, purity выросла, но два
|
||||
дополнительных слова без говорящего требуют человеческого прослушивания.
|
||||
Автоматические метрики не разрешают этот выбор.
|
||||
2. Полные записи не измерялись ни для C1, ни для C2. C1 не дошла до Ryzen, C2
|
||||
не прошла финальный порог скорости.
|
||||
3. Ryzen C1 wall/RSS/quality неизвестны полностью; переносить Intel `33,65%` на
|
||||
другую ISA нельзя.
|
||||
4. Для shared-session E1/C2 нет schema-compatible native total и, следовательно,
|
||||
нет candidate-side orchestration share. Доступные segmentation/embedding/
|
||||
clustering поля не закрывают остаток `counter + Finalize + Python` отдельными
|
||||
сопоставимыми стадиями.
|
||||
5. Orchestration baseline - измеренный residual, но его production/harness
|
||||
состав не измерен.
|
||||
6. Температура Ryzen во время ячеек недоступна. Внешний power/throttle
|
||||
guard прошел, но не заменяет сенсор внутри WSL.
|
||||
7. Intel W/M/Q/E разведка - по одному прогону, ранние ячейки не чередовались;
|
||||
их проценты не являются оценкой дисперсии.
|
||||
8. End-to-end архитектуры не входили в матрицу. Измерены только локальные
|
||||
изменения прежнего каскада.
|
||||
9. `M1` отсутствует по дизайну, C0 пропущена как точный baseline-дубликат,
|
||||
stage 6 пропущен по правилу "нет победителя"; это известные пропуски, а не
|
||||
потерянные результаты.
|
||||
10. Отдельные агрегаты Intel companion-ячеек M0/Q0/E0 не опубликованы. Их можно
|
||||
использовать только как recipe-alias W0, а не выдавать за новые замеры.
|
||||
|
||||
## Что станет невосстановимым после удаления замороженных хранилищ
|
||||
|
||||
Удаление обоих хранилищ отложено до завершения и приемки задачи #46. Пока они
|
||||
сохраняются, их можно использовать только для ретроспективного аудита старых
|
||||
результатов, но не как вход или базу сравнения нового опыта. После удаления
|
||||
останутся публичные рецепты, агрегаты, решения и непрозрачные хеши, но сами хеши
|
||||
уже нельзя будет повторно сверить с исходными байтами.
|
||||
|
||||
Без нового model run или повторной подготовки будут потеряны:
|
||||
|
||||
- все raw per-recording outer/stage/CPU/RSS значения за пределами опубликованных
|
||||
агрегатов, включая точное восьмиклеточное Ryzen-разложение;
|
||||
- сырые интервалы разметки говорящих, назначения слов, диагностические records,
|
||||
ASR-sidecars и опорные материалы;
|
||||
- prepared embedding-матрицы, row mappings, промежуточные результаты счетчиков,
|
||||
worker requests и native logs, которыми проверялись строки/метки/финализация;
|
||||
- runtime-guard свидетельства и полное состояние планировщика/manifest, включая
|
||||
непубличные идентификаторы ячеек и порядок внутренних повторов;
|
||||
- подготовленные C1 listening excerpts и plan. Пока архив существует, они
|
||||
доступны только для отдельного аудита C1 и не входят в задачу #46. После
|
||||
удаления для будущего решения C1 придется заново построить минимальный
|
||||
baseline/C1 diff и новые excerpts из исходных записей;
|
||||
- calibration provenance и байты QDQ-графа, локальные wheel/patch artifacts,
|
||||
если они отдельно не сохранены; опубликованный SHA доказывает идентичность
|
||||
только при наличии байтов;
|
||||
- возможность расследовать расхождения публичного 1.13.5 hash/wall и W0 RSS по
|
||||
исходным файлам.
|
||||
|
||||
Исходные записи, по условию задачи #45, останутся лишь удобными входами для нового
|
||||
минимального среза. Они не восстанавливают старые sidecars, prepared matrices,
|
||||
слуховой plan, environment state или старые timing samples без повторного
|
||||
вычисления.
|
||||
|
||||
## Граница выводов
|
||||
|
||||
Исторические строки выше описывают прежний каскад и прежние контрольные
|
||||
фрагменты. Они отвечают на вопрос, какие локальные изменения уже проверены.
|
||||
Новый эксперимент создает из сохраненных исходных записей собственные
|
||||
фрагменты, ASR-sidecar, опорную разметку, baseline-диагностику и закрытое
|
||||
хранилище результата. Числа `3 / 2 / 2`, `51 / 13 / 9` и прежняя purity
|
||||
остаются характеристиками старых контролей. В новый gate переходят правила
|
||||
точного совпадения с заново проверенным числом голосовых кластеров,
|
||||
неизменности текста и безопасной памяти.
|
||||
|
||||
C1 после удаления старого слухового материала остается исторически
|
||||
неразрешенной. Для ее повторного открытия требуется свежая минимальная пара
|
||||
W0/C1 и заново подготовленный материал для прослушивания. Карта и следующий
|
||||
эксперимент эту работу не выполняют.
|
||||
|
||||
## Класс архитектур и формула полной замены
|
||||
|
||||
Текущий путь строит разметку говорящих каскадом `segmentation -> embeddings ->
|
||||
clustering`. В sherpa-onnx 1.13.6 отдельный эмбеддинг вычисляется для каждой
|
||||
пары локального говорящего и окна; это подтверждает
|
||||
[upstream-реализация](https://github.com/k2-fsa/sherpa-onnx/blob/v1.13.6/sherpa-onnx/csrc/offline-speaker-diarization-pyannote-impl.h).
|
||||
Суммарное разложение выше показывает, что локальные изменения embeddings имеют
|
||||
большой доступный бюджет, однако принятый 30%-й результат на Ryzen не получен.
|
||||
|
||||
Для сравнения архитектур используется одна формула:
|
||||
|
||||
```text
|
||||
B = S + E + C + O
|
||||
T_candidate = B - R + A
|
||||
speedup = (R - A) / B
|
||||
идеальный предел при A = 0: R / B
|
||||
```
|
||||
|
||||
`B` - measured outer wall текущего W0; `S`, `E` и `C` - измеренные native
|
||||
стадии; `O` - derived residual `outer wall - native engine total`; `R` - работа
|
||||
старого пути, которую удаляет гипотеза; `A` - измеряемая работа новой
|
||||
архитектуры. Для полной замены `R = B`, поэтому фактическое сокращение равно
|
||||
`1 - A / B`. Upstream не публикует переносимый CPU RTF для выбранной модели;
|
||||
числовой прогноз `A` отсутствует. Его определит свежий A/B.
|
||||
|
||||
## Реестр архитектурных гипотез
|
||||
|
||||
### A1. Streaming Sortformer v2 Q8_0 через NeMo-Speech.cpp - выбран
|
||||
|
||||
**Механизм и затронутые стадии.** NEST/Fast-Conformer encoder и следующий за
|
||||
ним Transformer выдают четыре sigmoid-потока активности. Arrival-Order Speaker
|
||||
Cache связывает говорящих между streaming-чанками; порядок меток задается
|
||||
первым появлением голоса. Модель возвращает `T x 4` вероятностей с шагом 80 мс
|
||||
и заменяет текущие segmentation, embeddings, подсчет/кластеризацию и
|
||||
финализацию. Архитектура описана в
|
||||
[карточке модели NVIDIA](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2)
|
||||
и [первичной статье](https://arxiv.org/abs/2507.18446).
|
||||
|
||||
**Поведение quality gate.** Потери W1-W4 возникли после прореживания
|
||||
10-секундных окон перед независимыми эмбеддингами. Sortformer оценивает
|
||||
перекрывающиеся активности общей сетью и не использует эту сетку или порог AHC.
|
||||
Ошибки могут перейти в границы 80-мс кадров, рождение канала и сохранение метки
|
||||
в speaker cache, поэтому точное число кластеров и слуховая проверка остаются
|
||||
обязательными.
|
||||
|
||||
**Предел и риск.** Полная замена дает идеальный предел 100% вызова, а
|
||||
фактическое сокращение `1 - A_sortformer / B`. Опубликованный RTF `0,002`
|
||||
измерен на RTX 6000 Ada, batch 1, и не является CPU-прогнозом
|
||||
([model card](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#setting-up-streaming-configuration)).
|
||||
Модель имеет четыре выходных канала говорящих; NVIDIA предупреждает о
|
||||
деградации на пяти и более слышимых голосах, неанглийской речи, другом домене и
|
||||
очень длинных записях
|
||||
([technical limitations](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#technical-limitations)).
|
||||
|
||||
**Самая дешевая фальсификация.** На Ryzen выполнить один свежий W0 и одну
|
||||
соседнюю пару W0/Sortformer на трех заново определенных пятиминутных
|
||||
фрагментах. Остановить ветвь при несовпадении с новыми ожидаемыми числами
|
||||
кластеров, нарушении текстовой инвариантности, OOM/swap/росте RSS без плато или
|
||||
ускорении меньше 10%. Точный контракт находится в
|
||||
[спецификации следующего эксперимента](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||
|
||||
**Повторное использование.** Переносятся рецепт Ryzen W0, правила gate,
|
||||
каноническое сведение `Word` с `SpeakerInterval`, безопасные агрегаты и
|
||||
сохраненные исходные записи. Sidecar, опорная разметка, фрагменты и закрытое
|
||||
хранилище создаются заново. Prepared matrices, старые интервалы, патч и wheel
|
||||
не используются.
|
||||
|
||||
**Исполнимость.** NVIDIA публикует готовый Q8_0 GGUF, нативный Apache-2.0
|
||||
runtime с CPU backend и отдельным API диаризации
|
||||
([NeMo-Speech.cpp](https://github.com/NVIDIA/NeMo-Speech.cpp),
|
||||
[C ABI](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/include/nemo_speech/diar.h)).
|
||||
Веса имеют CC BY 4.0. Runtime и модель закреплены в следующей спецификации.
|
||||
Выбор разрешает только изолированный исследовательский стенд.
|
||||
|
||||
### A2-A6. Фальсифицируемые альтернативы
|
||||
|
||||
| ID | Механизм и отличие quality gate | Предел скорости | Главный риск | Самый дешевый тест | Что можно использовать повторно | Решение |
|
||||
|---|---|---|---|---|---|---|
|
||||
| `A2` LS-EEND | Causal encoder, online attractors и retention полностью заменяют `B`; нет окон Pyannote, отдельных voice embeddings и AHC. [Официальный код](https://github.com/Audio-WestlakeU/FS-EEND), [статья](https://doi.org/10.1109/TASLPRO.2025.3597446). | `1 - A_ls-eend / B`; CPU `A` не опубликована. | Публичные checkpoints привязаны к 8 кГц и доменам; готовой ONNX/GGUF CPU-поставки нет; возможен дрейф attractor. | До контрольного аудио проверить официальный checkpoint, лицензию, CPU device и однозначный 16-кГц/resampling contract; затем синтетический 60-секундный smoke. | Свежие входы, sidecar и общие gate; prepared embeddings неприменимы. | Отложить: A1 проверяет полную streaming-замену с готовым CPU runtime дешевле. |
|
||||
| `A3` EEND-EDA | Self-attentive encoder и LSTM attractors выдают одновременные активности и собственный stop condition вместо AHC-N. [Статья](https://arxiv.org/abs/2005.09921), [официальная реализация](https://github.com/hitachi-speech/EEND). | `1 - A_eend-eda / B`; full-context attention может расти квадратично по длине. | Нет закрепленного универсального checkpoint и документированного CPU deployment; ошибка stop condition меняет N. | Сначала найти официальный checkpoint с лицензией, 16-кГц контрактом и CPU inference. До этого аудио не запускать. | Только свежие входы и общие gate. | Отложить до появления измеримого CPU artifact. |
|
||||
| `A4` EEND-VC / DiariZen | Local EEND совместно строит активности и vectors, constrained clustering связывает чанки; старые пороговые отказы не обязаны повториться. [EEND-VC](https://arxiv.org/abs/2105.09040), [DiariZen](https://github.com/BUTSpeechFIT/DiariZen), [pruning](https://arxiv.org/abs/2506.18623). | Удаляются `S+E+C`, добавляются WavLM/Conformer и новый clustering; CPU `A` не опубликована. | Даже pruned-модель требует 3,8 GMAC/s; официальный рецепт ориентирован на CUDA/Python 3.10; веса CC BY-NC 4.0. | В изолированной среде проверить импорт CPU и 30-секундный публичный sample; закрыть при несовместимости или RTF хуже W0. | Свежие входы и общие gate. | Отклонить для короткого списка: CPU path и лицензия не подходят следующему дешевому срезу. |
|
||||
| `A5` pyannote Community-1 | Powerset segmentation, WeSpeaker, VBx и exclusive diarization меняют границы и оценку N, сохраняя embedding cascade. [Исходник pipeline](https://github.com/pyannote/pyannote-audio/blob/main/src/pyannote/audio/pipelines/speaker_diarization.py), [model card](https://huggingface.co/pyannote/speaker-diarization-community-1), [powerset loss](https://arxiv.org/abs/2310.13025). | Гарантированно удаляется лишь старая clustering/часть сведения; ее measured ceiling близок к нулю. Batching остается неизмеренной реализационной гипотезой. | Тяжелый PyTorch runtime, предварительная авторизованная загрузка; dense segmentation и embedding cost сохраняются. | 60-секундный публичный CPU stage-profile с RSS; закрыть, если total не лучше W0 минимум на 10%. | Свежие слова, assignment-диагностика и категории прослушивания. | Отклонить: не атакует полную доминирующую работу каскада. |
|
||||
| `A6` NeMo MSDD | MarbleNet VAD, multi-scale TitaNet embeddings, clustering и neural decoder меняют все стадии и восстанавливают overlap. [Статья](https://arxiv.org/abs/2203.15974), [официальный код](https://github.com/NVIDIA-NeMo/Speech/tree/main/examples/speaker_tasks/diarization). | Знак ускорения неизвестен: VAD сокращает тишину, несколько embedding scales и decoder добавляют работу. | Штатный pretrained MSDD ориентирован на телефонию; готового meeting GGUF/ONNX CPU path нет; начальная ошибка N переходит в decoder. | До аудио потребовать подходящий meeting checkpoint и CPU contract; затем публичный 30-секундный stage smoke. | Свежие входы и общие gate. | Отклонить: добавляет embedding work без готового целевого CPU runtime. |
|
||||
|
||||
Реестр оставляет A2-A6 проверяемыми: для каждой ветви записан факт, который
|
||||
может изменить решение. Второй кандидат в короткий список не добавлен, потому
|
||||
что для него сначала пришлось бы создавать runtime или выбирать новые веса.
|
||||
|
||||
## Решение и владение соседними задачами
|
||||
|
||||
Следующее измерение проверяет ровно A1. Причины выбора: полная замена старого
|
||||
вызова, готовые Q8_0 веса, закрепляемый нативный CPU runtime и standalone
|
||||
разметка говорящих без изменения ASR. Контракт исполняет
|
||||
[задача #46](https://git.dementev.space/ddmitry/local-transcriber/issues/46).
|
||||
В задаче #45 модель и аудио не запускались.
|
||||
|
||||
Параллельное планирование ASR и диаризации целиком принадлежит
|
||||
[задаче #22](https://git.dementev.space/ddmitry/local-transcriber/issues/22).
|
||||
Автоматическое включение принадлежит
|
||||
[задаче #23](https://git.dementev.space/ddmitry/local-transcriber/issues/23).
|
||||
Joint ASR+diarization и shared-ASR-encoder меняют путь распознавания и исключены
|
||||
из этой карты. ASR-sidecar используется только как свежий quality input.
|
||||
|
||||
Принятие A1 после эксперимента означает право подготовить отдельное
|
||||
production-решение. Оно не меняет [ADR-007](../adr/007-word-level-speaker-diarization.md)
|
||||
и не разрешает поставку NeMo-Speech.cpp в основном dependency graph.
|
||||
@@ -37,13 +37,13 @@
|
||||
Floor берётся сразу 3.13, а не минимально достаточный 3.11: любой подъём версии
|
||||
всё равно требует прогона на всех трёх платформах, и дорого именно тестирование,
|
||||
а не строка в `pyproject.toml`. Один переезд вместо двух. Проект ставится там,
|
||||
где доступны uv и PyPI, поэтому uv сам поднимет нужный интерпретатор; закрытых
|
||||
контуров и оффлайн-зеркал среди пользователей нет.
|
||||
где доступны uv и PyPI; команда установки явно запрашивает Python 3.13, поэтому
|
||||
uv найдёт или скачает нужный интерпретатор. Закрытых контуров и оффлайн-зеркал
|
||||
среди пользователей нет.
|
||||
|
||||
Рабочая версия фиксируется файлом `.python-version` (сейчас его в репозитории
|
||||
нет). Floor разрешает любой интерпретатор от 3.13 и выше, а пин делает окружение
|
||||
одинаковым на разных машинах — иначе расхождение вылезает именно тогда, когда
|
||||
что-то отлаживаешь.
|
||||
Рабочая версия фиксируется файлом `.python-version`. Floor разрешает любой
|
||||
интерпретатор от 3.13 и выше, а пин делает окружение одинаковым на разных
|
||||
машинах — иначе расхождение вылезает именно тогда, когда что-то отлаживаешь.
|
||||
|
||||
Колёса cp313 проверены для всех нативных зависимостей и всех трёх целевых
|
||||
платформ — Windows, Linux, macOS: `openvino-genai` 2026.0.0.0, `ctranslate2`
|
||||
|
||||
@@ -23,7 +23,7 @@
|
||||
|
||||
## Не входит
|
||||
|
||||
- Автоматическое включение диаризации без флага и `--no-diarize`.
|
||||
- Аппаратно-зависимое автоматическое включение диаризации.
|
||||
- Параллельный запуск ASR и диаризации.
|
||||
- Сопоставление `Speaker N` с именами участников.
|
||||
- Постоянный кеш разметки говорящих, голосовые эмбеддинги и диагностические
|
||||
@@ -33,10 +33,12 @@
|
||||
|
||||
## Пользовательский интерфейс
|
||||
|
||||
- `--diarize` включает диаризацию. По умолчанию она выключена; ключ в
|
||||
`.transcriber.toml` в первой версии не добавляется.
|
||||
- `--diarize` включает диаризацию, `--no-diarize` явно выключает. Булев ключ
|
||||
`diarize` в `.transcriber.toml` задаёт значение по умолчанию; без него
|
||||
диаризация выключена. CLI-флаги имеют приоритет над конфигом.
|
||||
- `--speakers N`, где `N >= 1`, задаёт известное число участников и сам включает
|
||||
диаризацию. Без него число кластеров определяется автоматически.
|
||||
диаризацию. Без него число кластеров определяется автоматически. Сочетание
|
||||
`--speakers N` с `--no-diarize` считается ошибкой использования.
|
||||
- `--threads N` остаётся единым бюджетом активного CPU-прохода. Значение целиком
|
||||
получает сначала ASR, затем диаризация; `0` оставляет настройки библиотек.
|
||||
- `--verbose` показывает в консоли прогресс, число кластеров и интервалов,
|
||||
|
||||
@@ -151,9 +151,10 @@
|
||||
|
||||
За пределами Git остаются manifest, записи, WAV-кеш, ASR-sidecar, опорные
|
||||
транскрипты, сырые интервалы, результаты, worker requests, журналы и материалы
|
||||
слуховой проверки. Рабочий каталог стенда нельзя размещать в обычной
|
||||
`.scratch`: репозиторий игнорирует там только служебный каталог
|
||||
`.scratch/handoffs/`, не связанный с переносом эксперимента между ноутбуками.
|
||||
слуховой проверки. Рабочий каталог стенда нельзя размещать в `.scratch`: этот
|
||||
каталог локален и целиком игнорируется, поэтому эксперимент из него не
|
||||
переносится между ноутбуками. Временно закрепленные диагностические скрипты уже
|
||||
отслеживаются Git и не меняют этого правила для новых материалов.
|
||||
|
||||
Публичный отчет содержит хеши, агрегаты, конфигурацию и выводы. В него не входят
|
||||
локальные пути, распознанный текст, временные интервалы, имена участников и
|
||||
|
||||
@@ -0,0 +1,489 @@
|
||||
# Эксперимент Streaming Sortformer v2 Q8_0 на Ryzen CPU
|
||||
|
||||
**Дата:** 2026-09-01
|
||||
|
||||
**Статус:** готовый контракт следующего эксперимента, исполняемый в
|
||||
[задаче #46](https://git.dementev.space/ddmitry/local-transcriber/issues/46).
|
||||
Запуск модели и аудио начинается после подготовки свежей закрытой основы.
|
||||
|
||||
## Цель и исходы
|
||||
|
||||
Эксперимент отвечает на один вопрос: сокращает ли Streaming Sortformer v2
|
||||
Q8_0 через NeMo-Speech.cpp время построения разметки говорящих на целевом Ryzen
|
||||
минимум на 30% относительно свежего последовательного W0 при приемлемом
|
||||
качестве и памяти.
|
||||
|
||||
Допустимы три исхода:
|
||||
|
||||
- `go`: медиана пяти финальных парных ускорений не ниже 30%, автоматические и
|
||||
слуховые gates пройдены;
|
||||
- `stop`: нарушен обязательный gate, первичное ускорение ниже 10%, финальная
|
||||
медиана ниже 30% или слуховая проверка подтвердила регрессию;
|
||||
- `needs-user`: отсутствует подтверждение свежей опоры или требуемое решение
|
||||
по прослушиванию. Это состояние ожидания, его нельзя публиковать как результат
|
||||
кандидата.
|
||||
|
||||
`go` разрешает подготовку отдельного production-решения. Экспериментальный
|
||||
runtime остается изолированным, а production-профиль, CLI, config и модель по
|
||||
умолчанию сохраняются.
|
||||
|
||||
## Сначала прочитать
|
||||
|
||||
1. Прочитать [карту архитектур](../research/2026-09-01-end-to-end-cpu-diarization-map.md),
|
||||
особенно разделы "Граница выводов", A1 и формулу полной замены.
|
||||
Критерий завершения: агент может объяснить, почему старые значения
|
||||
`3 / 2 / 2`, unmatched words и purity не являются порогами нового опыта.
|
||||
2. Прочитать [ADR-007](../adr/007-word-level-speaker-diarization.md) и
|
||||
[старую спецификацию](2026-08-30-cpu-diarization-experiment.md). Критерий
|
||||
завершения: сохранены каноническое сведение слов, правила 5%/10%/30% и
|
||||
memory gate.
|
||||
3. Прочитать `src/local_transcriber/benchmark_experiment.py` и
|
||||
`tests/test_benchmark_experiment.py` перед реализацией. Критерий завершения:
|
||||
новый стенд использует отдельный модуль и schema, не принимает старый
|
||||
manifest или закрытые хранилища задач #41/#42.
|
||||
|
||||
## Границы
|
||||
|
||||
В scope входят свежая закрытая основа, точный W0/Sortformer A/B на Ryzen,
|
||||
проверка трех полных записей после прохождения 30%-го порога на фрагментах и
|
||||
слуховая приемка.
|
||||
|
||||
За пределами scope остаются:
|
||||
|
||||
- replay W/M/Q/E/C и восстановление старых patch/wheel;
|
||||
- C1; ее повторное открытие требует отдельной свежей W0/C1 пары и нового
|
||||
слухового материала;
|
||||
- Intel и другие CPU;
|
||||
- production integration, dependency lock, упаковка runtime и изменение ADR;
|
||||
- параллельное планирование ASR/диаризации - это
|
||||
[задача #22](https://git.dementev.space/ddmitry/local-transcriber/issues/22);
|
||||
- автоматическое включение - это
|
||||
[задача #23](https://git.dementev.space/ddmitry/local-transcriber/issues/23);
|
||||
- joint ASR+diarization и shared-ASR-encoder. ASR создает только quality
|
||||
sidecar до измерений.
|
||||
|
||||
## Закрепленные реализации
|
||||
|
||||
### W0
|
||||
|
||||
W0 использует действующий последовательный путь на восьми физических ядрах:
|
||||
|
||||
- `sherpa-onnx/core 1.13.6`;
|
||||
- Pyannote Segmentation 3.0 FP32, SHA-256
|
||||
`220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079`;
|
||||
- WeSpeaker ResNet34 LM FP32, SHA-256
|
||||
`e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012`;
|
||||
- `window_shift_ratio=0.1`;
|
||||
- `FastClustering(auto, 0.89)`;
|
||||
- `provider=cpu` для segmentation и embeddings;
|
||||
- `debug=True` для обеих model configs: stage times читаются из штатного
|
||||
debug-журнала и входят в измерительный рецепт;
|
||||
- `min_duration_on=0.3`, `min_duration_off=0.5`;
|
||||
- один worker, одна session, `intra_op_threads=8`, `inter_op_threads=1`, batch 1;
|
||||
- штатный непатченный `diarizer.process(samples)`.
|
||||
|
||||
Старые experimental patch/wheel не загружаются и не восстанавливаются. До
|
||||
первого запуска стенд проверяет версии, хеши и все effective values рецепта.
|
||||
Критерий завершения: `--validate-only` показывает рецепт `W0-FRESH` и
|
||||
останавливается при любом несовпадении.
|
||||
|
||||
Закрытые хранилища задач #41/#42 временно сохраняются до завершения и приемки
|
||||
этого эксперимента как архив только для чтения. Стенд не получает их пути, не
|
||||
читает старые manifest и результаты и отклоняет их ID при валидации. Архив не
|
||||
является входом, базой сравнения или условием получения нового результата.
|
||||
|
||||
### Sortformer
|
||||
|
||||
Runtime:
|
||||
|
||||
- репозиторий [NVIDIA/NeMo-Speech.cpp](https://github.com/NVIDIA/NeMo-Speech.cpp);
|
||||
- commit `4f9676226f667d14608487df744f375db87127f8`;
|
||||
- license Apache-2.0;
|
||||
- source build штатным CPU-only preset:
|
||||
`git submodule update --init ggml`, затем `scripts/configure.sh cpu-diar` и
|
||||
`cmake --build --preset cpu-diar`
|
||||
([инструкция build](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/docs/build.md),
|
||||
[точный preset](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/CMakePresets.json));
|
||||
- preset использует Release/Ninja, включает только diarization и отключает
|
||||
patched GGML; runtime запускается с `gpu=-1`, одним процессом и одним stream;
|
||||
- CPU graph использует закрепленные в этом commit четыре внутренних потока;
|
||||
runtime knob для их изменения отсутствует
|
||||
([вызов scheduler](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/src/runtime/ggml/session.cpp#L903));
|
||||
- submodule commits, compiler, CMake options и SHA-256 готового executable и
|
||||
shared library сохраняются в новом manifest.
|
||||
|
||||
Модель:
|
||||
|
||||
- repo `nvidia/diar_streaming_sortformer_4spk-v2`;
|
||||
- revision `5240a64075176943f677d30fa2171c780229f341`;
|
||||
- файл `diar_streaming_sortformer_4spk-v2.q8_0.gguf`;
|
||||
- размер `147075776` байт;
|
||||
- SHA-256 `0679cfeb1ce356d0dea9470b31274f4bfc7eb927497d82005483770666da998a`;
|
||||
- license CC BY 4.0.
|
||||
|
||||
Эти revision, размер и хеш также закреплены в
|
||||
[официальном model index выбранного runtime](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/models/index.json#L75-L88).
|
||||
После подготовки байтов стенд работает без сети.
|
||||
|
||||
Кандидат вызывается через
|
||||
[standalone C ABI](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/include/nemo_speech/diar.h),
|
||||
чтобы сохранить effective config и покадровую диагностику. Stateful streaming
|
||||
получает точную геометрию NVIDIA в 80-мс кадрах:
|
||||
|
||||
| Поле | Значение |
|
||||
|---|---:|
|
||||
| `chunk_frames` | `340` |
|
||||
| `right_context_frames` | `40` |
|
||||
| `left_context_frames` | `0` |
|
||||
| `fifo_frames` | `40` |
|
||||
| `spkcache_frames` | `188` |
|
||||
| `update_period_frames` | `300` |
|
||||
|
||||
Сумма chunk и right context дает input buffer latency 30,4 с. Опубликованный
|
||||
RTF этой конфигурации измерен на RTX 6000 Ada и в CPU-гипотезу не переносится
|
||||
([model card](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#setting-up-streaming-configuration)).
|
||||
Full-attention `--offline` не используется.
|
||||
|
||||
Post-processing передается явно при каждом запросе:
|
||||
|
||||
| Поле | Значение |
|
||||
|---|---:|
|
||||
| `onset` | `0.641` |
|
||||
| `offset` | `0.561` |
|
||||
| `pad_onset_sec` | `0.229` |
|
||||
| `pad_offset_sec` | `0.079` |
|
||||
| `min_duration_sec` | `0.511` |
|
||||
| `min_gap_sec` | `0.296` |
|
||||
|
||||
Это callhome-tuned конфигурация закрепленного runtime. Она остается quality
|
||||
риском для русских рабочих встреч и не настраивается по трем контрольным
|
||||
фрагментам. Любое изменение геометрии, post-processing, quantization или
|
||||
runtime commit создает другую гипотезу и требует новой спецификации.
|
||||
|
||||
Критерий завершения подготовки кандидата: сборка выполняет синтетический
|
||||
ABI-тест без аудио, `nemo_speech_diar_num_speakers()` возвращает 4,
|
||||
`nemo_speech_diar_seconds_per_frame()` возвращает 0,08, а manifest содержит все
|
||||
закрепленные значения и хеши. Синтетический тест не заменяет smoke-проверку с
|
||||
аудио.
|
||||
|
||||
## Свежая закрытая основа
|
||||
|
||||
### Шаг 1. Выбрать источники и фрагменты
|
||||
|
||||
Владелец выбирает три сохраненные исходные записи и по одной 300-секундной
|
||||
области в каждой. Набор должен включать русскую рабочую речь, смену говорящего,
|
||||
короткий ответ и перекрытие хотя бы где-то в совокупности. В каждой области и
|
||||
каждой полной записи должно быть от двух до четырех слышимых голосов. Запись с
|
||||
пятью голосами закрывает кандидат до измерения: модель выдает не более четырех
|
||||
выходных голосовых кластеров
|
||||
([technical limitations](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#technical-limitations)).
|
||||
|
||||
В закрытом manifest сохраняются source hash, точные границы и recipe
|
||||
mono/16 kHz float32. Публичные документы получают только число фрагментов,
|
||||
длительность и агрегаты.
|
||||
|
||||
Критерий завершения: три source hash уникальны, три WAV имеют ровно 300 секунд
|
||||
после единственного закрепленного преобразования, а ни один путь, ID или
|
||||
интервал не попадает в stdout режима `--validate-only`.
|
||||
|
||||
### Шаг 2. Подготовить ASR-sidecar и доступную опорную разметку
|
||||
|
||||
Действующий ASR выполняется один раз для каждой полной записи до измерений.
|
||||
Sidecar хранит канонические слова с временной привязкой и нормализованный текст;
|
||||
fragment-sidecar получается детерминированным срезом той же версии. Затем
|
||||
человек прослушивает каждый фрагмент целиком и фиксирует ожидаемое число
|
||||
голосовых кластеров для фрагментов и полных записей. Опорная разметка фрагмента
|
||||
необязательна: `reference_path` и `reference_sha256` либо заполнены вместе, либо
|
||||
оба равны `null`. При наличии разметки стенд считает mapped purity и выбирает
|
||||
места прослушивания; сама разметка остается приближенной и не объявляется
|
||||
истиной границ.
|
||||
|
||||
Критерий завершения: для каждого фрагмента и каждой полной записи есть
|
||||
подтвержденное человеком `expected_cluster_count` в диапазоне `2..4`, один
|
||||
неизменяемый sidecar и SHA-256. Отсутствие опорной разметки не блокирует
|
||||
измерение и не ослабляет остальные gates. Для канонического Ryzen-прогона
|
||||
используются подтвержденные владельцем числа `3 / 2 / 2`; их привязывают к
|
||||
источникам по хешам, а не по порядку нейтральных имен. Повторное прослушивание
|
||||
для подсчета голосов не требуется.
|
||||
|
||||
### Шаг 3. Пройти пользовательский gate
|
||||
|
||||
До первого модельного запуска владелец подтверждает:
|
||||
|
||||
- право использовать выбранные записи в закрытом локальном опыте;
|
||||
- пригодность трех областей и полных записей, а также
|
||||
`expected_cluster_count` каждого фрагмента и каждой полной записи;
|
||||
- доступность исходных полных записей для этапа после 30%-го порога на
|
||||
фрагментах;
|
||||
- готовность выполнить безусловный финальный слуховой gate, если медиана
|
||||
достигнет 30%. Diagnostics только добавляют обязательные места прослушивания.
|
||||
|
||||
Критерий завершения: в закрытом manifest есть timestamped decision `approved`.
|
||||
Без него исход `needs-user`; стенд не загружает модели.
|
||||
|
||||
В каноническом Ryzen-прогоне решением `approved` служит датированный handoff
|
||||
владельца в комментарии к задаче #46. Нового подтверждения до достижения
|
||||
30%-го порога не требуется.
|
||||
|
||||
## Измеряемая величина и A/B
|
||||
|
||||
Время W0 - wall вокруг одного `diarizer.process(samples)`. Время кандидата -
|
||||
wall вокруг `stream_open -> push all prepared samples -> finish -> segment
|
||||
post-processing`. Для обеих ветвей модель уже загружена, WAV уже декодирован в
|
||||
один и тот же mono/16 kHz float32 buffer. ASR, скачивание, build, model load,
|
||||
декодирование, чтение sidecar, запись artifacts и расчет метрик находятся вне
|
||||
таймера.
|
||||
|
||||
Полная замена оценивается только измерением:
|
||||
|
||||
```text
|
||||
B = measured W0 wall
|
||||
A = measured Sortformer wall
|
||||
speedup_percent = 100 * (B - A) / B
|
||||
```
|
||||
|
||||
Восьмиклеточное историческое Ryzen-разложение не подставляется вместо свежего
|
||||
`B`. CPU prediction для `A` отсутствует.
|
||||
|
||||
Каждая ячейка запускается новым дочерним процессом на одной машине, от сети, в
|
||||
стабильном power mode. Process affinity разрешает те же восемь физических ядер
|
||||
обеим ветвям. W0 получает `intra_op_threads=8`; закрепленный candidate runtime
|
||||
исполняет CPU graph четырьмя внутренними потоками. Это часть сравниваемого
|
||||
runtime recipe. Изменение hardcoded числа потоков образует новую гипотезу.
|
||||
Фиксируются logical/physical cores, CPUID/ISA, RAM, ОС, compiler/runtime
|
||||
versions, affinity, effective threads, power mode, governor, turbo, throttling
|
||||
и swap. Прогон со сменой режима или throttling не учитывается и повторяется
|
||||
один раз после стабилизации.
|
||||
|
||||
### Шаг 4. Принять свежий W0
|
||||
|
||||
Один `W0-FRESH` обрабатывает три фрагмента последовательно. Для каждого
|
||||
сохраняются raw wall/CPU/RSS и stage times; публично выводится сумма. W0 должен
|
||||
дать ровно подтвержденные `expected_cluster_count`, сохранить sidecar-текст и
|
||||
пройти memory gate.
|
||||
|
||||
Критерий завершения: W0 прошел все обязательные gates и его закрытый result
|
||||
имеет SHA-256. При провале итог `stop`: база сравнения непригодна.
|
||||
|
||||
### Шаг 5. Выполнить первичный A/B
|
||||
|
||||
Сразу после принятого W0 запускается одна ячейка кандидата на тех же buffers и в
|
||||
том же порядке фрагментов. Primary order закреплен как `W0 -> candidate`; пять
|
||||
дорогих циклов ниже устраняют постоянный порядок чередованием. Один primary
|
||||
cycle равен сумме трех wall times каждой ветви.
|
||||
|
||||
Критерий завершения: обе ячейки имеют raw result, одинаковый список input
|
||||
hashes и один pair ID; рассчитаны ускорение, CPU и RSS delta.
|
||||
|
||||
Решение после primary:
|
||||
|
||||
- `abs(speedup) <= 5%` - результат фиксируется как равенство по скорости;
|
||||
- `speedup < 10%` - `stop`: причина `equal-speed` для равенства по скорости,
|
||||
иначе `below-continuation`;
|
||||
- `speedup >= 10%` при всех gates - перейти к пяти финальным циклам;
|
||||
- любой обязательный quality/memory/Sortformer gate - немедленный `stop`.
|
||||
|
||||
### Шаг 6. Выполнить пять финальных циклов
|
||||
|
||||
Каждый цикл содержит свежую ячейку W0 и свежую ячейку кандидата на всех трех
|
||||
фрагментах. Primary pair в пять финальных циклов не входит. Порядок закреплен
|
||||
заранее и чередуется так:
|
||||
|
||||
1. final 1: `candidate -> W0`;
|
||||
2. final 2: `W0 -> candidate`;
|
||||
3. final 3: `candidate -> W0`;
|
||||
4. final 4: `W0 -> candidate`;
|
||||
5. final 5: `candidate -> W0`.
|
||||
|
||||
Вместе с primary `W0 -> candidate` это исключает выбор порядка по уже видимому
|
||||
результату. Дополнительные варианты, модели и настройки не добавляются.
|
||||
|
||||
Критерий завершения: получены пять парных ускорений, их медиана и MAD; все
|
||||
десять ячеек прошли gates. Медиана не ниже 30% открывает проверку полных записей.
|
||||
Медиана ниже 30% дает `stop`. Дополнительные повторы не назначаются.
|
||||
|
||||
### Шаг 7. Проверить полные записи и пройти слуховой gate
|
||||
|
||||
После медианы не ниже 30% W0 и candidate однократно обрабатывают три полные
|
||||
исходные записи. Скорость полных прогонов остается диагностикой и не заменяет
|
||||
пятипарную медиану.
|
||||
|
||||
Владелец получает blinded A/B материал по пяти категориям:
|
||||
|
||||
- короткие ответы и перебивки;
|
||||
- смены говорящего;
|
||||
- перекрывающаяся речь;
|
||||
- устойчивость соответствия голоса кластеру;
|
||||
- слова без говорящего и малые остаточные кластеры.
|
||||
|
||||
Материал включает все места, отмеченные сравнительными diagnostics, и
|
||||
фиксированную случайную выборку совпадающих мест. Порядок A/B и имя кандидата
|
||||
раскрываются после вердикта. По каждой категории владелец записывает `pass` или
|
||||
`fail` и короткую причину в закрытом хранилище; публично остается только
|
||||
вердикт.
|
||||
|
||||
Критерий завершения: три пары на полных записях прошли автоматические gates,
|
||||
все пять слуховых категорий имеют решение. Любой подтвержденный `fail` дает
|
||||
`stop`; полный `pass` завершает эксперимент как `go`.
|
||||
|
||||
## Gates и диагностика
|
||||
|
||||
### Обязательное качество и корректность
|
||||
|
||||
Каждая ячейка W0 и кандидата обязана выполнить все условия:
|
||||
|
||||
- число голосовых кластеров каждого обрабатываемого контрольного объекта -
|
||||
фрагмента или полной записи - точно равно свежему, подтвержденному человеком
|
||||
`expected_cluster_count`;
|
||||
- нормализованный текст и порядок слов побайтно совпадают с одним sidecar;
|
||||
- нет потерянных, продублированных или переставленных слов;
|
||||
- интервалы конечны, имеют положительную длительность, лежат в пределах audio
|
||||
duration с учетом явно заданного padding и отсортированы по началу;
|
||||
- каноническая нумерация меток детерминирована на повторном расчете метрик;
|
||||
- все inputs, параметры и output artifacts имеют SHA-256.
|
||||
|
||||
Purity для фрагментов с опорной разметкой и число слов без говорящего
|
||||
сравниваются с новым `W0-FRESH`. Ухудшение не дает автоматического `fail`, но
|
||||
обязательно добавляет все затронутые места в слуховой gate. Старые абсолютные
|
||||
значения не участвуют.
|
||||
|
||||
Открытый диагностикой слуховой gate не прерывает шаги 5-6. Стенд накапливает
|
||||
затронутые места и добавляет их в материал шага 7. Состояние `needs-user` из-за
|
||||
прослушивания возможно только после достижения 30%-го порога и подготовки
|
||||
полного blinded-материала.
|
||||
|
||||
### Sortformer-specific gate
|
||||
|
||||
Для каждой ячейки кандидата сохраняются и проверяются:
|
||||
|
||||
- `num_speakers=4`, `seconds_per_frame=0.08` и точная geometry/post-processing
|
||||
из этой спецификации;
|
||||
- `frame_count`, `frame_probs_start` и размер доступной матрицы `T x 4`;
|
||||
- каждое сохраненное probability конечно и принадлежит `[0, 1]`;
|
||||
- каждая итоговая speaker label принадлежит `1..4`;
|
||||
- число и суммарная длительность интервалов по каждому каналу;
|
||||
- число коротких интервалов, overlap ratio, unmatched words, малые/остаточные
|
||||
кластеры и mapped purity для фрагментов с опорной разметкой;
|
||||
- wall отдельно для model inference и segment post-processing.
|
||||
|
||||
Любой неверный shape/value/label или эффективная конфигурация, отличная от
|
||||
закрепленной, дает `stop`. Появление лишнего/пропажа ожидаемого кластера дает
|
||||
`stop`. Изменение channel stability, short-turn, overlap, unmatched-word или
|
||||
purity diagnostics открывает слуховую проверку; числовой порог для этих proxy
|
||||
не вводится.
|
||||
|
||||
Жесткий предел четырех выходных голосовых кластеров, риск записей с пятью и
|
||||
более слышимыми голосами и риск non-English/out-of-domain сохраняются в
|
||||
публичном решении даже после `go`; опыт не доказывает применимость к другим
|
||||
встречам.
|
||||
|
||||
### Память
|
||||
|
||||
Peak RSS измеряется process-wide для каждой ячейки. Также сохраняются swap до и
|
||||
после, page faults и RSS после каждого фрагмента.
|
||||
|
||||
Memory gate дает `stop` при OOM, активной подкачке во время ячейки, RSS без плато
|
||||
между повторами или линейном росте RSS с числом обработанных фрагментов. Peak
|
||||
RSS выше 2 ГиБ на машине с 16 ГиБ требует отдельного разбора владельца и
|
||||
состояния `needs-user`; одно превышение не является автоматическим `fail`.
|
||||
|
||||
## Артефакты и приватность
|
||||
|
||||
Checkout и дерево сборки NeMo-Speech.cpp, скачанные веса и новое закрытое
|
||||
хранилище размещаются вне рабочей копии local-transcriber. `.scratch` внутри
|
||||
репозитория целиком игнорируется, но остается локальной частью конкретного
|
||||
checkout и не подходит для закрытого переносимого хранилища. Ни один
|
||||
runtime/model/build artifact или закрытый вход не попадает в Git.
|
||||
|
||||
Новое закрытое хранилище содержит:
|
||||
|
||||
- versioned manifest со schema, clean local-transcriber source commit,
|
||||
source/model/runtime/build hashes и расписанием;
|
||||
- исходные ссылки, подготовленные WAV и recipe преобразования;
|
||||
- ASR-sidecar и имеющуюся опорную разметку;
|
||||
- raw per-fragment results, intervals, word assignments и probability
|
||||
diagnostics;
|
||||
- machine/power/runtime guards и stderr/stdout logs;
|
||||
- материал и решения слуховой проверки;
|
||||
- байты runtime/model либо проверяемый download recipe с revision, size и hash.
|
||||
|
||||
Хранилище не ссылается на закрытые хранилища задач #41/#42 и остается
|
||||
достаточным для разбора собственного результата. После приемки отчета задачи
|
||||
#46 старые архивы можно удалить; их удаление не блокирует ни один шаг и не
|
||||
лишает новый результат доказательной основы.
|
||||
|
||||
Публичный отчет содержит `clean local-transcriber source commit`, точные
|
||||
рецепты, хеши, агрегаты, вердикты gates и итоговое решение. В Git, комментарии
|
||||
Gitea, задания на ревью и вывод `--validate-only` не попадают пути,
|
||||
`source/recording IDs`, текст, временные интервалы, сырые строки, содержимое
|
||||
manifest, логи, имена участников или аудио.
|
||||
|
||||
При нарушении приватности стенд останавливается до публикации. Уже
|
||||
сформированный публичный артефакт удаляется из рабочей ветки и создается заново
|
||||
из безопасных агрегатов.
|
||||
|
||||
## Реализация стенда и тесты
|
||||
|
||||
Новый стенд реализуется отдельным модулем
|
||||
`src/local_transcriber/streaming_sortformer_experiment.py`; существующий
|
||||
`benchmark_experiment.py` остается источником общих проверенных механизмов.
|
||||
Стенд получает отдельную schema и только две recipe: `W0-FRESH` и
|
||||
`SORTFORMER-V2-Q8`. Manifest validation выполняется до загрузки моделей.
|
||||
`--validate-only` проверяет:
|
||||
|
||||
- три уникальных source hashes, 300-секундные фрагменты и fresh-basis marker;
|
||||
- human approval и `expected_cluster_count` каждого фрагмента и каждой полной
|
||||
записи в диапазоне `2..4`;
|
||||
- W0 model/runtime hashes и effective values: CPU provider, `debug=True`,
|
||||
`min_duration_on=0.3`, `min_duration_off=0.5`, threads и clustering;
|
||||
- clean local-transcriber worktree и source commit из manifest;
|
||||
- Sortformer revision, size, SHA-256, runtime commit, submodules, build hashes,
|
||||
CPU backend, geometry и post-processing;
|
||||
- одинаковые input/sidecar hashes обеих ветвей;
|
||||
- заранее созданные primary/final schedules;
|
||||
- отсутствие корней старых хранилищ и legacy ID ячеек.
|
||||
|
||||
Минимальные детерминированные тесты выполняются без модели и аудио:
|
||||
|
||||
```bash
|
||||
uv run pytest -q \
|
||||
tests/test_streaming_sortformer_experiment.py \
|
||||
tests/test_benchmark_experiment.py \
|
||||
tests/test_speaker_diarizer.py \
|
||||
tests/test_diarization.py
|
||||
```
|
||||
|
||||
Новый модуль тестов покрывает отклонение `schema`, несовпадение пинов и хешей,
|
||||
требование свежей опоры, обезличенный вывод `--validate-only`, правило
|
||||
`expected_cluster_count`, точное расписание A/B, границы 5%/10%/30%, gates
|
||||
качества, памяти и Sortformer, переход к прослушиванию, безопасную сериализацию
|
||||
и остановку при первом отказе. Стенд C ABI имеет отдельный синтетический тест
|
||||
размеров структур, выбора CPU и эффективной конфигурации; модель в модульных
|
||||
тестах не загружается.
|
||||
|
||||
Критерий завершения реализации стенда: все детерминированные тесты проходят,
|
||||
`--validate-only` проходит на закрытом manifest и публичный вывод проходит
|
||||
privacy scan. Реализация стенда фиксируется чистым коммитом исходников,
|
||||
совпадающим с manifest. Только после этого разрешен первый запуск модели W0.
|
||||
|
||||
## Критерии завершения эксперимента
|
||||
|
||||
- [ ] Свежая опора собрана в новом закрытом хранилище; подтвержденные входы,
|
||||
доступная разметка и числа голосов связаны по хешам, а старые manifest,
|
||||
расписание и результаты не наследуются.
|
||||
- [ ] Runtime, модель, сборка и оба рецепта закреплены и проверены до моделей.
|
||||
- [ ] Clean local-transcriber source commit сохранен в закрытом хранилище и
|
||||
публичном отчете, а `--validate-only` проверяет его до моделей.
|
||||
- [ ] Свежий W0 принят либо итог `stop` объясняет провал базы сравнения.
|
||||
- [ ] Первичный A/B завершен; решение 10% применено без дополнительных ветвей.
|
||||
- [ ] При продолжении завершены ровно пять финальных циклов, медиана и MAD.
|
||||
- [ ] Каждая выполненная ячейка имеет вердикты качества, текста, памяти и
|
||||
Sortformer.
|
||||
- [ ] При медиане 30% выполнены три пары на полных записях и пять слуховых
|
||||
решений.
|
||||
- [ ] Все остановленные шаги имеют первую точную причину и хеш результата.
|
||||
- [ ] Закрытое хранилище самодостаточно; публичный отчет содержит только безопасные
|
||||
агрегаты и SHA-256.
|
||||
- [ ] Итог равен `go` или `stop`; `needs-user` остается открытым до решения.
|
||||
- [ ] Ни один результат автоматически не меняет production-зависимости,
|
||||
профиль, CLI, config или модель по умолчанию.
|
||||
@@ -0,0 +1,167 @@
|
||||
# Владение выполнением транскрипции
|
||||
|
||||
**Статус:** реализовано. Правила выбора исполнения и optional CUDA — в #2,
|
||||
владение выполнением (`Transcriber`), бюджет потоков ONNX и диагностика —
|
||||
в #56. Windows GPU-прогон без Toolkit остаётся невыполненным (см. ADR-001).
|
||||
|
||||
## Зачем
|
||||
|
||||
Основное направление развития — поддерживаемые модели и движки распознавания,
|
||||
прежде всего ONNX. В перспективе нужны аппаратные варианты исполнения на Mac
|
||||
и через Windows ML, но их внедрение не входит в этот рефакторинг.
|
||||
|
||||
Сейчас CLI хранит модель, backend, путь к модели и фактическое устройство,
|
||||
передаёт их в `_transcribe_file` и обновляет после fallback. Для ONNX часть
|
||||
согласованного состояния находится в adapter, а загруженная модель передаётся
|
||||
отдельно. Это увеличивает interface: caller должен знать порядок вызовов
|
||||
и поддерживать согласованность значений.
|
||||
|
||||
`device` одновременно обозначает движок и аппаратное исполнение. До #2 значение
|
||||
`onnx` выбирало adapter, но не закрепляло CPU: `onnx-asr` по умолчанию использует
|
||||
доступные execution providers, хотя CLI писал `ONNX (CPU)`. В #2 для ASR и VAD
|
||||
закреплён CPU provider. Параметр `cpu_threads` всё ещё принимается ONNX adapter,
|
||||
но не используется при загрузке ASR и VAD.
|
||||
|
||||
## Согласованные ограничения
|
||||
|
||||
- Сохраняются ONNX-ASR, OpenVINO и FasterWhisper. Удаление CUDA-библиотек из
|
||||
обязательной установки не означает удаление FasterWhisper или его CPU-пути.
|
||||
- Приоритет — подключение моделей и вариантов исполнения. Промежуточное
|
||||
сохранение и возобновление обработки совещаний не нужны для этой работы.
|
||||
- Автоматически выбираются только проверенные сочетания модели и исполнения.
|
||||
Новое аппаратное исполнение сначала подключается явно и проверяется отдельно.
|
||||
- CUDA-зависимости устанавливаются по желанию пользователя. Способ установки
|
||||
и включения должен быть описан в документации.
|
||||
- Наличие драйвера NVIDIA не доказывает совместимость железа с runtime.
|
||||
Ноутбук владельца с установленным драйвером и несовместимым старым GPU —
|
||||
обязательный сценарий для проверки нового поведения.
|
||||
- Диаризация остаётся необязательным последующим проходом. Сбой «два
|
||||
собеседника на чёткой записи, найден один говорящий» требует отдельного
|
||||
исследования качества; этот рефакторинг его не исправляет.
|
||||
|
||||
## Форма module
|
||||
|
||||
External seam проходит между caller и выполнением распознавания. Caller
|
||||
создаёт один module для согласованных настроек запуска и последовательно
|
||||
передаёт ему файлы. Module владеет загруженной моделью, связанным adapter,
|
||||
фактическими настройками и допустимыми переходами исполнения. Caller получает
|
||||
результат распознавания и сведения о выполнении, а не внутреннее состояние,
|
||||
которое нужно передать обратно при следующем файле.
|
||||
|
||||
Module создаётся после prescan, когда есть работа. Загрузка и проверка
|
||||
возможностей завершаются до распознавания первого файла: это сохраняет
|
||||
проверку пословного контракта перед включённой диаризацией. Один и тот же
|
||||
interface используется для одного файла и для батча. События прогресса остаются
|
||||
доступны CLI. Публичная функция `transcribe` сохраняется как путь одного файла
|
||||
через тот же module; конкретные имена новых типов здесь не закрепляются.
|
||||
|
||||
Внутри различаются поддерживаемая модель, движок распознавания и способ
|
||||
исполнения. Существующие значения CLI и TOML преобразуются в этот выбор при
|
||||
подготовке запуска. Backend остаётся internal seam с реальными adapters;
|
||||
каталог ONNX, VAD, квантизация и перевод результата библиотеки в сегменты
|
||||
распознавания и слова с временной привязкой остаются в ONNX adapter.
|
||||
Отдельная иерархия adapters для каждого execution provider пока не нужна.
|
||||
|
||||
CLI сохраняет выбор файлов, prescan, пользовательский вывод и итоговый статус.
|
||||
Форматирование, запись Markdown и правила диаризации не поглощаются новым
|
||||
module. Это ограничивает первый шаг владением ASR и его настройками.
|
||||
|
||||
Depth оценивается по обязанностям caller: ему больше не нужно согласовывать
|
||||
model/backend/path/device. Locality — изменения загрузки и исполнения
|
||||
сосредоточены в module и соответствующем adapter. Leverage — один interface
|
||||
покрывает одиночный запуск, батч и их тесты.
|
||||
|
||||
## Выбор исполнения и ошибки
|
||||
|
||||
Ручное включение CUDA состоит из двух явных действий: установки зависимостей
|
||||
и выбора CUDA через CLI либо TOML. Extra `cuda` поддерживает Linux/WSL x86_64
|
||||
и Windows x64 без обязательного системного Toolkit; совместимый драйвер
|
||||
устанавливается отдельно. CUDA не участвует
|
||||
в `auto`, даже если найден `nvidia-smi` или установлены её библиотеки.
|
||||
Так установка драйвера не меняет движок и модель по умолчанию.
|
||||
|
||||
Начальный автоматический путь — ONNX с CPU и существующей моделью по умолчанию.
|
||||
Для ONNX список providers задаётся явно; наличие CoreML в macOS wheel не
|
||||
включает его автоматически. Это делает политику проекта определённой, но
|
||||
не заменяет проверку работы на настоящем Mac.
|
||||
|
||||
Явный аппаратный выбор не подменяется молча другим исполнением. При отсутствии
|
||||
CUDA-библиотек выводится инструкция подключения; при несовместимости железа
|
||||
объясняется отказ выбранного пути. Установка библиотек не предлагается как
|
||||
универсальное исправление аппаратной несовместимости. Остальные существующие
|
||||
правила ошибок и разрешённых fallback сохраняются внутри module; состояние
|
||||
после перехода остаётся согласованным для следующего файла.
|
||||
|
||||
Сведения о выполнении различают запрошенное и выбранное исполнение, модель,
|
||||
квантизацию и настройки потоков. Они не раскрывают model handle. Для ONNX
|
||||
наличие или регистрация provider не выдаётся за доказательство выполнения
|
||||
всего графа на GPU/NPU. Отладочный вывод должен помогать выяснить конфигурацию
|
||||
на чужой машине, включая версии runtime и providers, без доступа к записи.
|
||||
|
||||
## Проверка результата
|
||||
|
||||
Основные сценарии проверяются через external interface с подменой внешних
|
||||
движков, при работающей оркестрации проекта:
|
||||
|
||||
- Пустой prescan не загружает модели; два файла переиспользуют одну модель.
|
||||
- Добавление каталожной ONNX-модели не требует изменений в CLI.
|
||||
- Выбранная квантизация и бюджет потоков действительно передаются ASR и VAD;
|
||||
нулевой бюджет сохраняет настройки потоков библиотек.
|
||||
- Наличие `nvidia-smi` при обычной установке не запускает CUDA и не ведёт
|
||||
через ошибку GPU к FasterWhisper CPU.
|
||||
- Явная CUDA с отсутствующими библиотеками и с несовместимым GPU даёт разные
|
||||
содержательные ошибки. Автоматическая смена модели не маскирует отказ.
|
||||
- Случайно доступный непроверенный ONNX provider не меняет автоматический путь.
|
||||
- Разрешённый fallback не требует переноса состояния в CLI; обычная ошибка
|
||||
файла не повреждает состояние для последующих файлов батча.
|
||||
- Сохраняются явные CPU/OpenVINO-пути, порядок слов, пословный контракт,
|
||||
прогресс, прерывание и существующее поведение необязательной диаризации.
|
||||
|
||||
Тесты ручного переноса внутренних полей заменяются проверками этих сценариев.
|
||||
Тесты преобразования результатов adapters сохраняются на их internal seams.
|
||||
Mock-тесты не подтверждают ускорение или совместимость на Mac/Windows ML;
|
||||
для признания сочетания проверенным нужен реальный прогон с оценкой результата.
|
||||
|
||||
## Документация и прежние решения
|
||||
|
||||
README должен различать обычную установку и подключение CUDA: дополнительные
|
||||
зависимости через один extra на Linux/WSL x86_64 и Windows x64, внешние
|
||||
требования драйвера и Visual C++ Runtime, явный запуск, настройку TOML
|
||||
и диагностику отсутствующих библиотек или несовместимого железа. Команды
|
||||
установки из клона и через `uv tool` проверяются при реализации. CUDA extra
|
||||
оформляется отдельным изменением, чтобы поставку можно было проверить
|
||||
независимо от рефакторинга выполнения.
|
||||
|
||||
При реализации нужно отразить пересмотр прежних решений:
|
||||
|
||||
- [ADR-001](../adr/001-cuda-bootstrap.md): обязательная cuBLAS ради готовности
|
||||
CUDA сразу после установки сменяется подключением по желанию пользователя.
|
||||
- [ADR-002](../adr/002-batch-and-config.md): состояние модели больше не
|
||||
возвращается caller для переноса между файлами. Prescan-first сохраняется.
|
||||
- [ADR-003](../adr/003-pluggable-backends.md): движок и аппаратное исполнение
|
||||
различаются внутри module; device больше не считается полным описанием
|
||||
исполнения. Сохраняются adapters, ленивые imports и единый владелец загрузки.
|
||||
- [ADR-006](../adr/006-onnx-asr-backend.md): автоматический выбор CUDA по
|
||||
`nvidia-smi` заменяется явным включением; модель ONNX по умолчанию сохраняется.
|
||||
- [ADR-007](../adr/007-word-level-speaker-diarization.md): правила пословного
|
||||
результата и диаризации этим решением не пересматриваются.
|
||||
|
||||
Основания для будущих аппаратных вариантов уже собраны в
|
||||
[исследовании runtime](../research/2026-08-12-onnx-runtime-openvino-lifecycle.md).
|
||||
Актуальные описания механизмов: [CoreML EP](https://onnxruntime.ai/docs/execution-providers/CoreML-ExecutionProvider.html)
|
||||
и [Windows ML](https://learn.microsoft.com/en-us/windows/ai/new-windows-ml/overview).
|
||||
Их наличие не является подтверждением выбранных моделей на этих платформах.
|
||||
|
||||
## Объём задач
|
||||
|
||||
Для основного рефакторинга достаточно одной задачи с несколькими коммитами:
|
||||
владение моделью, перевод callers, настройки ONNX и проверка поведения входят
|
||||
в один принимаемый результат. Отдельных задач на каждый файл или коммит нет.
|
||||
|
||||
Существующая [задача #2](https://git.dementev.space/ddmitry/local-transcriber/issues/2)
|
||||
получает принятое решение об optional CUDA вместо дальнейшего исследования:
|
||||
зависимости, ручное включение, автоматический ONNX CPU, диагностика CUDA
|
||||
и документация. Она выполняется первой и даёт основному рефакторингу
|
||||
определённые правила выбора. Фиксация CPU providers ASR/VAD относится к #2;
|
||||
бюджет потоков, владение состоянием и общая диагностика исполнения — к основной
|
||||
задаче. Работа над CoreML, Windows ML и качеством диаризации сюда не входит.
|
||||
+9
-1
@@ -8,16 +8,23 @@ dependencies = [
|
||||
"typer>=0.24.1,<1",
|
||||
"rich>=14.3.3,<15",
|
||||
"faster-whisper>=1.2.1,<2",
|
||||
# CUDA-зависимости Windows проверены для этой сборки; см. ADR-001.
|
||||
"ctranslate2==4.8.1",
|
||||
"httpx>=0.28,<1",
|
||||
"socksio>=1.0.0,<2",
|
||||
# При обновлении сверить блок tool.uv.dependency-metadata ниже.
|
||||
"sherpa-onnx==1.13.6",
|
||||
"nvidia-cublas-cu12>=12.4,<13; sys_platform == 'linux' and platform_machine == 'x86_64'",
|
||||
"openvino-genai>=2026.3.0.0,<2026.4; sys_platform != 'darwin' and (platform_machine == 'x86_64' or platform_machine == 'AMD64')",
|
||||
"onnx-asr[cpu,hub]>=0.12,<0.13",
|
||||
"onnxruntime>=1.28,<2",
|
||||
]
|
||||
|
||||
[project.optional-dependencies]
|
||||
cuda = [
|
||||
# В 12.9.2 добавилась NVRTC: обновлять после проверки DLL и bootstrap.
|
||||
"nvidia-cublas-cu12==12.9.1.4; (sys_platform == 'linux' and platform_machine == 'x86_64') or (sys_platform == 'win32' and (platform_machine == 'AMD64' or platform_machine == 'x86_64'))",
|
||||
]
|
||||
|
||||
[project.scripts]
|
||||
transcribe = "local_transcriber.cli:app"
|
||||
|
||||
@@ -42,6 +49,7 @@ packages = ["src/local_transcriber"]
|
||||
exclude = [
|
||||
"src/local_transcriber/benchmark_experiment.py",
|
||||
"src/local_transcriber/experimental_diarization.py",
|
||||
"src/local_transcriber/streaming_sortformer_experiment.py",
|
||||
]
|
||||
|
||||
[[tool.uv.dependency-metadata]]
|
||||
|
||||
@@ -0,0 +1,8 @@
|
||||
"""Точка входа изолированного эксперимента Streaming Sortformer."""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
from local_transcriber.streaming_sortformer_experiment import main
|
||||
|
||||
if __name__ == "__main__":
|
||||
main()
|
||||
@@ -1,12 +1,14 @@
|
||||
"""
|
||||
Preload CUDA-библиотек из pip-пакетов до импорта ctranslate2.
|
||||
Подготовка CUDA-библиотек из extra перед созданием CUDA-модели.
|
||||
|
||||
Проблема: ctranslate2 на Linux делает dlopen("libcublas.so.12"),
|
||||
но не знает, что библиотека лежит внутри pip-пакета nvidia-cublas-cu12.
|
||||
На Windows ctranslate2 решает это сам через os.add_dll_directory.
|
||||
На Windows ctranslate2 не добавляет nvidia/cublas/bin в поиск DLL.
|
||||
Регистрируем каталог и загружаем cuBLAS Lt, затем cuBLAS по полному пути.
|
||||
Храним DLL и регистрацию каталога до завершения процесса.
|
||||
|
||||
Решение: загружаем libcublas.so.12 по полному пути через ctypes.CDLL
|
||||
с флагом RTLD_GLOBAL до первого import ctranslate2. Динамический линкер
|
||||
с флагом RTLD_GLOBAL до создания CUDA-модели. Динамический линкер
|
||||
кеширует загруженные библиотеки по soname — когда ctranslate2 потом
|
||||
вызовет dlopen("libcublas.so.12"), линкер вернёт уже загруженный handle.
|
||||
|
||||
@@ -21,20 +23,24 @@ import glob
|
||||
import os
|
||||
import sys
|
||||
|
||||
# Закрытие регистрации удаляет каталог из поиска DLL, поэтому храним handles.
|
||||
_dll_directories: dict[str, object] = {}
|
||||
_dll_libraries: dict[str, object] = {}
|
||||
|
||||
|
||||
def ensure_cublas_loadable() -> None:
|
||||
"""Загружает libcublas из nvidia-cublas-cu12 в адресное пространство процесса.
|
||||
"""Загружает cuBLAS из nvidia-cublas-cu12 в адресное пространство процесса.
|
||||
|
||||
Вызывать ДО первого import ctranslate2.
|
||||
Вызывать перед созданием CUDA-модели; CPU-путь не требует bootstrap.
|
||||
Безопасно вызывать многократно и на платформах без nvidia-cublas-cu12.
|
||||
"""
|
||||
if sys.platform != "linux":
|
||||
if sys.platform not in ("linux", "win32"):
|
||||
return
|
||||
|
||||
try:
|
||||
import nvidia.cublas # type: ignore[import-untyped]
|
||||
except ImportError:
|
||||
# nvidia-cublas-cu12 не установлен (Windows, macOS, или CPU-only setup)
|
||||
# Optional-пакет не установлен; системная cuBLAS всё ещё может работать.
|
||||
return
|
||||
|
||||
# nvidia.cublas может быть namespace package (__file__ == None),
|
||||
@@ -42,6 +48,21 @@ def ensure_cublas_loadable() -> None:
|
||||
cublas_paths = getattr(nvidia.cublas, "__path__", None)
|
||||
if not cublas_paths:
|
||||
return
|
||||
if sys.platform == "win32":
|
||||
for package_path in cublas_paths:
|
||||
bin_dir = os.path.join(package_path, "bin")
|
||||
if not os.path.isdir(bin_dir):
|
||||
continue
|
||||
if bin_dir not in _dll_directories:
|
||||
_dll_directories[bin_dir] = os.add_dll_directory(bin_dir)
|
||||
# cuBLAS зависит от Lt; явный preload также обслуживает LoadLibrary
|
||||
# внутри CTranslate2. Порядок здесь существенен.
|
||||
for filename in ("cublasLt64_12.dll", "cublas64_12.dll"):
|
||||
dll_path = os.path.join(bin_dir, filename)
|
||||
if dll_path not in _dll_libraries:
|
||||
_dll_libraries[dll_path] = ctypes.WinDLL(dll_path)
|
||||
return
|
||||
return
|
||||
cublas_lib_dir = os.path.join(cublas_paths[0], "lib")
|
||||
if not os.path.isdir(cublas_lib_dir):
|
||||
return
|
||||
|
||||
@@ -16,6 +16,9 @@ class Backend(Protocol):
|
||||
наследование не требуется.
|
||||
"""
|
||||
|
||||
engine: str
|
||||
"""Имя движка для сведений о выполнении."""
|
||||
|
||||
@property
|
||||
def word_timestamps_available(self) -> bool:
|
||||
"""Гарантирует ли выбранный backend/model пословные таймкоды."""
|
||||
@@ -53,3 +56,7 @@ class Backend(Protocol):
|
||||
) -> TranscribeResult:
|
||||
"""Транскрибирует файл, возвращает результат."""
|
||||
...
|
||||
|
||||
def runtime_info(self) -> dict[str, str]:
|
||||
"""Версии runtime и фактическая конфигурация для удалённой диагностики."""
|
||||
...
|
||||
@@ -6,21 +6,17 @@ from collections.abc import Callable
|
||||
from pathlib import Path
|
||||
from typing import Any
|
||||
|
||||
# CUDA bootstrap — должен быть ДО импорта faster_whisper / ctranslate2
|
||||
from huggingface_hub import snapshot_download
|
||||
from huggingface_hub.errors import LocalEntryNotFoundError
|
||||
|
||||
from local_transcriber._cuda_bootstrap import ensure_cublas_loadable
|
||||
|
||||
ensure_cublas_loadable()
|
||||
|
||||
from faster_whisper import WhisperModel # noqa: E402
|
||||
from huggingface_hub import snapshot_download # noqa: E402
|
||||
from huggingface_hub.errors import LocalEntryNotFoundError # noqa: E402
|
||||
|
||||
from local_transcriber.types import ( # noqa: E402
|
||||
from local_transcriber.types import (
|
||||
Segment,
|
||||
TranscribeResult,
|
||||
Word,
|
||||
WordTimestampsUnavailableError,
|
||||
)
|
||||
from local_transcriber.utils import package_version
|
||||
|
||||
MODEL_REPOS = {
|
||||
"tiny": "Systran/faster-whisper-tiny",
|
||||
@@ -48,10 +44,12 @@ MODEL_REQUIRED_FILES = [
|
||||
class FasterWhisperBackend:
|
||||
"""Бэкенд транскрипции через faster-whisper (CTranslate2)."""
|
||||
|
||||
engine = "faster-whisper"
|
||||
word_timestamps_available = True
|
||||
|
||||
def __init__(self):
|
||||
self.actual_compute_type: str | None = None
|
||||
self._cpu_threads = 0
|
||||
|
||||
def ensure_model_available(
|
||||
self,
|
||||
@@ -94,6 +92,12 @@ class FasterWhisperBackend:
|
||||
|
||||
cpu_threads: число потоков для CPU inference (0 = дефолт библиотеки, обычно 4).
|
||||
"""
|
||||
if device == "cuda":
|
||||
ensure_cublas_loadable()
|
||||
|
||||
from faster_whisper import WhisperModel
|
||||
|
||||
self._cpu_threads = cpu_threads
|
||||
try:
|
||||
return WhisperModel(
|
||||
model_path,
|
||||
@@ -157,6 +161,22 @@ class FasterWhisperBackend:
|
||||
words=words,
|
||||
)
|
||||
|
||||
def runtime_info(self) -> dict[str, str]:
|
||||
"""Версии CTranslate2/faster-whisper и число видимых CUDA-устройств."""
|
||||
import ctranslate2
|
||||
|
||||
try:
|
||||
cuda_devices = str(ctranslate2.get_cuda_device_count())
|
||||
except Exception as exc: # noqa: BLE001 — диагностика не должна ронять запуск
|
||||
cuda_devices = f"недоступно ({exc})"
|
||||
return {
|
||||
"faster_whisper": package_version("faster-whisper"),
|
||||
"ctranslate2": package_version("ctranslate2"),
|
||||
"cuda_devices": cuda_devices,
|
||||
"compute_type": self.actual_compute_type or "",
|
||||
"cpu_threads": str(self._cpu_threads) if self._cpu_threads else "по умолчанию",
|
||||
}
|
||||
|
||||
|
||||
def _notify(on_status: Callable[[str], None] | None, message: str) -> None:
|
||||
if on_status is not None:
|
||||
|
||||
@@ -15,6 +15,7 @@ from local_transcriber.types import (
|
||||
Word,
|
||||
WordTimestampsUnavailableError,
|
||||
)
|
||||
from local_transcriber.utils import package_version
|
||||
|
||||
|
||||
@dataclass(frozen=True)
|
||||
@@ -131,6 +132,8 @@ def _normalize_quantization(compute_type: str) -> str | None:
|
||||
class OnnxAsrBackend:
|
||||
"""Бэкенд транскрипции через onnx-asr (ONNX Runtime)."""
|
||||
|
||||
engine = "onnx-asr"
|
||||
|
||||
def __init__(self, compute_type_explicit: bool = True):
|
||||
self._compute_type_explicit = compute_type_explicit
|
||||
self.actual_compute_type: str | None = None
|
||||
@@ -138,6 +141,9 @@ class OnnxAsrBackend:
|
||||
self._model_name: str | None = None
|
||||
self._model_spec: OnnxModelSpec | None = None
|
||||
self._vad: Any = None
|
||||
self._providers: list[str] = []
|
||||
self._quantization: str | None = None
|
||||
self._cpu_threads = 0
|
||||
|
||||
@property
|
||||
def word_timestamps_available(self) -> bool:
|
||||
@@ -191,20 +197,49 @@ class OnnxAsrBackend:
|
||||
|
||||
compute_type маппится в onnx-asr ``quantization`` — это суффикс файла
|
||||
модели; для unquantized (float32/fp32) нужно None, не строку.
|
||||
cpu_threads > 0 задаёт intra_op_num_threads сессиям ASR и VAD;
|
||||
0 оставляет настройки потоков onnxruntime.
|
||||
"""
|
||||
import onnx_asr
|
||||
|
||||
actual_compute_type = self.actual_compute_type or compute_type
|
||||
quantization = _normalize_quantization(actual_compute_type)
|
||||
|
||||
providers = ["CPUExecutionProvider"]
|
||||
session_kwargs: dict[str, Any] = {"providers": providers}
|
||||
if cpu_threads > 0:
|
||||
session_kwargs["sess_options"] = _session_options(cpu_threads)
|
||||
model = onnx_asr.load_model(
|
||||
model=model_path,
|
||||
quantization=quantization,
|
||||
**session_kwargs,
|
||||
)
|
||||
vad = onnx_asr.load_vad("silero")
|
||||
vad = onnx_asr.load_vad("silero", **session_kwargs)
|
||||
self._vad = vad
|
||||
self._providers = providers
|
||||
self._quantization = quantization
|
||||
self._cpu_threads = cpu_threads
|
||||
return model.with_vad(vad).with_timestamps()
|
||||
|
||||
def runtime_info(self) -> dict[str, str]:
|
||||
"""Версии ONNX Runtime/onnx-asr и providers, заданные сессиям ASR и VAD.
|
||||
|
||||
Доступность provider в wheel не означает, что граф выполняется на нём:
|
||||
сессии получают только явно заданный список.
|
||||
"""
|
||||
import onnxruntime
|
||||
|
||||
configured = ", ".join(self._providers)
|
||||
return {
|
||||
"onnxruntime": package_version("onnxruntime"),
|
||||
"onnx_asr": package_version("onnx-asr"),
|
||||
"available_providers": ", ".join(onnxruntime.get_available_providers()),
|
||||
"asr_providers": configured,
|
||||
"vad_providers": configured,
|
||||
"quantization": self._quantization or "float32",
|
||||
"intra_op_threads": str(self._cpu_threads) if self._cpu_threads else "по умолчанию",
|
||||
}
|
||||
|
||||
def transcribe(
|
||||
self,
|
||||
model: Any,
|
||||
@@ -278,7 +313,7 @@ class OnnxAsrBackend:
|
||||
fallback = _whisper_fallback_model(model_name)
|
||||
raise ValueError(
|
||||
f"Модель '{model_name}' относится к Whisper и не поддерживается "
|
||||
"ONNX-бэкендом. Без CUDA --device auto выбирает ONNX; "
|
||||
"ONNX-бэкендом. --device auto всегда выбирает ONNX CPU; "
|
||||
f"укажите --device openvino-cpu --model {model_name} на x86, "
|
||||
f"--device cpu --model {fallback} на любой платформе "
|
||||
f"или --device cuda --model {fallback} при NVIDIA GPU."
|
||||
@@ -313,6 +348,15 @@ class OnnxAsrBackend:
|
||||
)
|
||||
|
||||
|
||||
def _session_options(cpu_threads: int) -> Any:
|
||||
"""SessionOptions с бюджетом потоков; общий объект для ASR и VAD."""
|
||||
import onnxruntime
|
||||
|
||||
options = onnxruntime.SessionOptions()
|
||||
options.intra_op_num_threads = cpu_threads
|
||||
return options
|
||||
|
||||
|
||||
def _format_compute_types(quantizations: frozenset[str | None]) -> str:
|
||||
values = [_compute_type_for_quantization(value) for value in quantizations]
|
||||
return ", ".join(sorted(values))
|
||||
|
||||
@@ -19,6 +19,7 @@ from local_transcriber.types import (
|
||||
Word,
|
||||
WordTimestampsUnavailableError,
|
||||
)
|
||||
from local_transcriber.utils import package_version
|
||||
|
||||
# (model_alias, compute_type) → HF repo
|
||||
MODEL_REPOS: dict[tuple[str, str], str] = {
|
||||
@@ -56,6 +57,7 @@ MODEL_REQUIRED_FILES = [
|
||||
class OpenVINOBackend:
|
||||
"""Бэкенд транскрипции через openvino-genai WhisperPipeline."""
|
||||
|
||||
engine = "openvino"
|
||||
word_timestamps_available = True
|
||||
|
||||
def __init__(
|
||||
@@ -203,6 +205,18 @@ class OpenVINOBackend:
|
||||
words=words,
|
||||
)
|
||||
|
||||
def runtime_info(self) -> dict[str, str]:
|
||||
"""Версия OpenVINO, доступные устройства и выбранное фактически."""
|
||||
from openvino import Core
|
||||
|
||||
return {
|
||||
"openvino": package_version("openvino"),
|
||||
"available_devices": ", ".join(Core().available_devices),
|
||||
"device": self.actual_ov_device or "",
|
||||
"compute_type": self.actual_compute_type or "",
|
||||
"threads": "управляет OpenVINO, --threads не применяется",
|
||||
}
|
||||
|
||||
def _resolve_repo(self, model_name: str, compute_type: str) -> tuple[str, str]:
|
||||
"""Находит HF repo для пары (model, compute_type) с fallback.
|
||||
|
||||
|
||||
@@ -370,11 +370,13 @@ def validate_manifest(
|
||||
if machine["cpu_flags"] != sorted(set(machine["cpu_flags"])):
|
||||
raise ValueError("machine.cpu_flags: список должен быть сортирован без дублей")
|
||||
_exact_keys(machine["power"], POWER_KEYS, "machine.power")
|
||||
_require_positive(
|
||||
machine["power"]["temperature_celsius"],
|
||||
"machine.power.temperature_celsius",
|
||||
allow_zero=True,
|
||||
)
|
||||
temperature = machine["power"]["temperature_celsius"]
|
||||
if temperature is not None:
|
||||
_require_positive(
|
||||
temperature,
|
||||
"machine.power.temperature_celsius",
|
||||
allow_zero=True,
|
||||
)
|
||||
_require_positive(
|
||||
machine["power"]["swap_total_bytes"],
|
||||
"machine.power.swap_total_bytes",
|
||||
@@ -714,14 +716,16 @@ def _validate_handoff(
|
||||
)
|
||||
name = _require_id(candidate["name"], f"handoff.candidate_recipes:{index}.name")
|
||||
candidate_names.append(name)
|
||||
cell = combination_cells.get(name)
|
||||
if cell is None:
|
||||
raise ValueError(
|
||||
"handoff: кандидат не описан включенной combination-ячейкой"
|
||||
)
|
||||
expected_cell_id = make_cell_id(manifest, cell)
|
||||
if candidate["cell_id"] != expected_cell_id:
|
||||
raise ValueError(f"handoff:{name}: cell_id не совпадает с manifest")
|
||||
_require_sha256(candidate["cell_id"], f"handoff:{name}.cell_id")
|
||||
if experiment["stage"] == "intel":
|
||||
cell = combination_cells.get(name)
|
||||
if cell is None:
|
||||
raise ValueError(
|
||||
"handoff: кандидат не описан включенной combination-ячейкой"
|
||||
)
|
||||
expected_cell_id = make_cell_id(manifest, cell)
|
||||
if candidate["cell_id"] != expected_cell_id:
|
||||
raise ValueError(f"handoff:{name}: cell_id не совпадает с manifest")
|
||||
_require_sha256(candidate["result_sha256"], f"handoff:{name}.result_sha256")
|
||||
_require_relative_path(candidate["result_file"], f"handoff:{name}.result_file")
|
||||
for gate in ("mandatory_passed", "memory_passed", "diagnostic_approved"):
|
||||
@@ -1673,16 +1677,156 @@ def _manifest_file_index(manifest: Mapping[str, Any]) -> dict[str, str]:
|
||||
return required
|
||||
|
||||
|
||||
def _portable_inference_recipe(
|
||||
manifest: Mapping[str, Any], inference: Mapping[str, Any]
|
||||
) -> dict[str, Any]:
|
||||
"""Переносит только заданные спецификацией конфигурации с бюджетом P."""
|
||||
result = dict(inference)
|
||||
physical_cores = manifest["machine"]["physical_cores"]
|
||||
mode = result["mode"]
|
||||
uses_physical_intra = result["intra_op_threads"] == physical_cores and (
|
||||
(
|
||||
mode in {"sequential", "titanet-batch"}
|
||||
and result["outer_workers"] == 1
|
||||
and result["session_count"] == 1
|
||||
)
|
||||
or (
|
||||
mode == "shared-session"
|
||||
and result["outer_workers"] == 2
|
||||
and result["session_count"] == 1
|
||||
)
|
||||
)
|
||||
if uses_physical_intra:
|
||||
result["intra_op_threads"] = "physical-cores"
|
||||
elif (
|
||||
mode == "shared-session"
|
||||
and result["outer_workers"] == physical_cores
|
||||
and result["session_count"] == 1
|
||||
and result["intra_op_threads"] == 1
|
||||
):
|
||||
result["outer_workers"] = "physical-cores"
|
||||
elif (
|
||||
mode == "separate-session"
|
||||
and result["outer_workers"] == physical_cores
|
||||
and result["session_count"] == physical_cores
|
||||
and result["intra_op_threads"] == 1
|
||||
):
|
||||
result["outer_workers"] = "physical-cores"
|
||||
result["session_count"] = "physical-cores"
|
||||
return result
|
||||
|
||||
|
||||
def _portable_cell_recipe(
|
||||
manifest: Mapping[str, Any], cell: Mapping[str, Any]
|
||||
) -> dict[str, Any]:
|
||||
"""Нормализует переносимый между машинами рецепт ячейки."""
|
||||
return {
|
||||
"window_shift_ratio": cell["window_shift_ratio"],
|
||||
"segmentation_artifact_id": cell["segmentation_artifact_id"],
|
||||
"embedding_artifact_id": cell["embedding_artifact_id"],
|
||||
"counter": cell["counter"],
|
||||
"clustering": cell["clustering"],
|
||||
"inference": _portable_inference_recipe(manifest, cell["inference"]),
|
||||
}
|
||||
|
||||
|
||||
def _validate_ryzen_capsule_manifest(
|
||||
ryzen_manifest: Mapping[str, Any], intel_manifest: Mapping[str, Any]
|
||||
) -> None:
|
||||
"""Связывает Ryzen-план с проверенным Intel manifest из капсулы."""
|
||||
if intel_manifest.get("experiment", {}).get("stage") != "intel":
|
||||
raise ValueError("Капсула Ryzen должна содержать Intel manifest")
|
||||
if ryzen_manifest["experiment"]["stage"] != "ryzen":
|
||||
raise ValueError("Переносимый manifest должен относиться к Ryzen")
|
||||
if ryzen_manifest["handoff"] != intel_manifest.get("handoff"):
|
||||
raise ValueError("Ryzen manifest не совпал с handoff из капсулы")
|
||||
ryzen_experiment = ryzen_manifest["experiment"]
|
||||
intel_experiment = intel_manifest["experiment"]
|
||||
for key in ("sherpa_patch_sha256", "dependencies"):
|
||||
if ryzen_experiment[key] != intel_experiment.get(key):
|
||||
raise ValueError(
|
||||
"Ryzen manifest изменил закрепленный runtime Intel-капсулы"
|
||||
)
|
||||
if ryzen_manifest["rss_sample_interval_ms"] != intel_manifest.get(
|
||||
"rss_sample_interval_ms"
|
||||
):
|
||||
raise ValueError("Ryzen manifest изменил интервал измерения RSS")
|
||||
for key in ("artifacts", "recordings", "calibration", "qdq"):
|
||||
if ryzen_manifest[key] != intel_manifest.get(key):
|
||||
raise ValueError(
|
||||
"Ryzen manifest изменил закрепленные входы Intel-капсулы"
|
||||
)
|
||||
intel_cells_by_id = {
|
||||
make_cell_id(intel_manifest, cell): cell
|
||||
for cell in intel_manifest["cells"]
|
||||
if cell["phase"] == "combination" and cell["enabled"]
|
||||
}
|
||||
handed_candidate_recipes = []
|
||||
handed_baseline_recipes = []
|
||||
handed_mechanism_recipes = []
|
||||
for candidate in intel_manifest["handoff"]["candidate_recipes"]:
|
||||
cell = intel_cells_by_id.get(candidate["cell_id"])
|
||||
if cell is None:
|
||||
raise ValueError(
|
||||
"Handoff-кандидат не связан с Intel combination-ячейкой"
|
||||
)
|
||||
baselines = [
|
||||
baseline
|
||||
for baseline in intel_manifest["cells"]
|
||||
if baseline["enabled"]
|
||||
and baseline["pair_id"] == cell["pair_id"]
|
||||
and baseline["pair_role"] == "baseline"
|
||||
]
|
||||
if len(baselines) != 1:
|
||||
raise ValueError(
|
||||
"Handoff-кандидат не связан с Intel baseline-ячейкой"
|
||||
)
|
||||
candidate_recipe = _portable_cell_recipe(intel_manifest, cell)
|
||||
baseline_recipe = _portable_cell_recipe(intel_manifest, baselines[0])
|
||||
handed_candidate_recipes.append(candidate_recipe)
|
||||
handed_baseline_recipes.append(baseline_recipe)
|
||||
for key in ("embedding_artifact_id", "inference"):
|
||||
if candidate_recipe[key] == baseline_recipe[key]:
|
||||
continue
|
||||
mechanism_recipe = copy.deepcopy(baseline_recipe)
|
||||
mechanism_recipe[key] = candidate_recipe[key]
|
||||
handed_mechanism_recipes.append(mechanism_recipe)
|
||||
for cell in ryzen_manifest["cells"]:
|
||||
if not cell["enabled"]:
|
||||
continue
|
||||
if cell["phase"] not in {"baseline", "mechanism", "combination"}:
|
||||
raise ValueError("Ryzen manifest содержит ячейку вне этапов 5-6")
|
||||
recipe = _portable_cell_recipe(ryzen_manifest, cell)
|
||||
if cell["phase"] == "baseline" and cell["pair_role"] == "candidate":
|
||||
raise ValueError("Ryzen baseline-ячейка не может быть кандидатом")
|
||||
if cell["pair_role"] == "baseline" or cell["phase"] == "baseline":
|
||||
if recipe not in handed_baseline_recipes:
|
||||
raise ValueError(
|
||||
"Ryzen baseline-ячейка не совпала с Intel baseline"
|
||||
)
|
||||
elif cell["phase"] == "mechanism" and recipe not in handed_mechanism_recipes:
|
||||
raise ValueError(
|
||||
"Ryzen mechanism-ячейка не совпала с механизмом handoff"
|
||||
)
|
||||
elif cell["phase"] == "combination" and recipe not in handed_candidate_recipes:
|
||||
raise ValueError(
|
||||
"Ryzen combination-ячейка не совпала с рецептом handoff"
|
||||
)
|
||||
|
||||
|
||||
def verify_capsule(
|
||||
archive_path: Path,
|
||||
expected_sha256: str,
|
||||
*,
|
||||
expected_manifest_path: Path,
|
||||
expected_manifest_path: Path | None,
|
||||
expected_ryzen_manifest: Mapping[str, Any] | None = None,
|
||||
expected_source_commit: str | None = None,
|
||||
expected_report_sha256: str | None = None,
|
||||
expected_capsule_id: str | None = None,
|
||||
) -> dict[str, Any]:
|
||||
"""Сверяет внешний и внутренние хеши приватной ZIP-капсулы."""
|
||||
if (expected_manifest_path is None) == (expected_ryzen_manifest is None):
|
||||
raise ValueError("Нужно выбрать ровно один Intel или Ryzen manifest")
|
||||
if file_sha256(archive_path) != expected_sha256:
|
||||
raise ValueError("SHA-256 ZIP-капсулы не совпал")
|
||||
with zipfile.ZipFile(archive_path) as archive:
|
||||
@@ -1733,14 +1877,19 @@ def verify_capsule(
|
||||
actual = hashlib.sha256(archive.read(name)).hexdigest()
|
||||
if actual != expected:
|
||||
raise ValueError("Внутренний SHA-256 капсулы не совпал")
|
||||
manifest_bytes = expected_manifest_path.read_bytes()
|
||||
archived_manifest = archive.read("manifest.json")
|
||||
if archived_manifest != manifest_bytes:
|
||||
raise ValueError("manifest аргумента не совпал с manifest.json капсулы")
|
||||
manifest_sha256 = hashlib.sha256(manifest_bytes).hexdigest()
|
||||
if expected_manifest_path is not None:
|
||||
manifest_bytes = expected_manifest_path.read_bytes()
|
||||
if archived_manifest != manifest_bytes:
|
||||
raise ValueError("manifest аргумента не совпал с manifest.json капсулы")
|
||||
manifest_sha256 = hashlib.sha256(archived_manifest).hexdigest()
|
||||
if declared["manifest.json"] != manifest_sha256:
|
||||
raise ValueError("Хеш manifest.json не совпал с индексом капсулы")
|
||||
archived_manifest_value = json.loads(archived_manifest)
|
||||
if expected_ryzen_manifest is not None:
|
||||
_validate_ryzen_capsule_manifest(
|
||||
expected_ryzen_manifest, archived_manifest_value
|
||||
)
|
||||
for name, expected in _manifest_file_index(archived_manifest_value).items():
|
||||
if declared.get(name) != expected:
|
||||
raise ValueError(
|
||||
@@ -1783,10 +1932,12 @@ def run_cli(args: Any, raw_manifest: Mapping[str, Any]) -> None:
|
||||
raise ValueError("Итоговый handoff требует --capsule и --capsule-sha256")
|
||||
capsule_result = None
|
||||
if capsule_path is not None and capsule_sha256 is not None:
|
||||
ryzen_stage = manifest["experiment"]["stage"] == "ryzen"
|
||||
capsule_result = verify_capsule(
|
||||
capsule_path,
|
||||
capsule_sha256,
|
||||
expected_manifest_path=args.manifest,
|
||||
expected_manifest_path=None if ryzen_stage else args.manifest,
|
||||
expected_ryzen_manifest=raw_manifest if ryzen_stage else None,
|
||||
expected_source_commit=manifest["handoff"]["source_commit"],
|
||||
expected_report_sha256=manifest["handoff"]["public_report_sha256"],
|
||||
expected_capsule_id=manifest["handoff"]["capsule_id"],
|
||||
|
||||
+108
-194
@@ -11,7 +11,11 @@ import typer
|
||||
from rich.console import Console
|
||||
from rich.status import Status
|
||||
|
||||
from .config import apply_device_defaults, load_config, resolve_defaults
|
||||
from .config import (
|
||||
CliValues,
|
||||
load_config,
|
||||
resolve_defaults,
|
||||
)
|
||||
from .context_menu import install_menu as install_context_menu
|
||||
from .context_menu import uninstall_menu as uninstall_context_menu
|
||||
from .diarization import build_speaker_transcript
|
||||
@@ -33,11 +37,12 @@ from .quality import (
|
||||
)
|
||||
from .speaker_diarizer import SpeakerDiarizer, load_speaker_diarizer
|
||||
from .transcriber import (
|
||||
ExecutionInfo,
|
||||
ExecutionRequest,
|
||||
Segment,
|
||||
Transcriber,
|
||||
TranscribeResult,
|
||||
_is_cuda_error,
|
||||
_transcribe_file,
|
||||
load_model,
|
||||
cuda_error_hint,
|
||||
)
|
||||
from .types import (
|
||||
UNKNOWN_LANGUAGE,
|
||||
@@ -47,10 +52,7 @@ from .types import (
|
||||
)
|
||||
from .utils import (
|
||||
build_output_path,
|
||||
detect_device,
|
||||
expand_globs,
|
||||
get_gpu_name,
|
||||
get_intel_gpu_name,
|
||||
has_existing_transcript,
|
||||
validate_input_file,
|
||||
)
|
||||
@@ -59,6 +61,13 @@ app = typer.Typer()
|
||||
console = Console(stderr=True)
|
||||
|
||||
|
||||
def _print_cuda_hint(exc: BaseException, device: str | None = None) -> None:
|
||||
"""Показывает подсказку, не заменяя исходную ошибку."""
|
||||
hint = cuda_error_hint(exc, device=device)
|
||||
if hint:
|
||||
console.print(hint, style="yellow", markup=False)
|
||||
|
||||
|
||||
def _show_cli_warning(
|
||||
message: Warning | str,
|
||||
*_args: object,
|
||||
@@ -82,21 +91,6 @@ def _with_cli_warning_renderer(
|
||||
return wrapped
|
||||
|
||||
|
||||
def _format_device_info(device_used: str) -> str:
|
||||
"""Формирует строку устройства для шапки транскрипта."""
|
||||
if device_used == "cuda":
|
||||
gpu_name = get_gpu_name()
|
||||
return f"CUDA ({gpu_name or 'Unknown GPU'})"
|
||||
if device_used == "openvino-gpu":
|
||||
gpu_name = get_intel_gpu_name()
|
||||
return f"OpenVINO ({gpu_name or 'Intel GPU'})"
|
||||
if device_used in ("openvino", "openvino-cpu"):
|
||||
return "OpenVINO (CPU)"
|
||||
if device_used == "onnx":
|
||||
return "ONNX (CPU)"
|
||||
return "CPU"
|
||||
|
||||
|
||||
def _format_language_mode(requested_language: str, result: TranscribeResult) -> str:
|
||||
"""Описывает источник языка, не выдавая профиль модели за детектор."""
|
||||
if requested_language != "auto":
|
||||
@@ -261,9 +255,9 @@ def main(
|
||||
min=0,
|
||||
help="Потоки CPU (0 = дефолт библиотеки; рекомендуется = число физ. ядер)",
|
||||
),
|
||||
diarize: bool = typer.Option(
|
||||
False,
|
||||
"--diarize",
|
||||
diarize: bool | None = typer.Option(
|
||||
None,
|
||||
"--diarize/--no-diarize",
|
||||
help="Разделить транскрипт на реплики говорящих",
|
||||
),
|
||||
speakers: int | None = typer.Option(
|
||||
@@ -328,20 +322,36 @@ def main(
|
||||
)
|
||||
raise SystemExit(2)
|
||||
|
||||
if diarize is False and speakers is not None:
|
||||
console.print(
|
||||
"--no-diarize и --speakers несовместимы.",
|
||||
style="red bold",
|
||||
)
|
||||
raise SystemExit(2)
|
||||
|
||||
requested_device: str | None = None
|
||||
try:
|
||||
config = load_config()
|
||||
cli_values = {
|
||||
cli_values: CliValues = {
|
||||
"model": model,
|
||||
"language": language,
|
||||
"device": device,
|
||||
"compute_type": compute_type,
|
||||
"diarize": diarize,
|
||||
}
|
||||
defaults = resolve_defaults(cli_values, config)
|
||||
diarize_enabled = defaults["diarize"] is True or speakers is not None
|
||||
requested_device = defaults["device"]
|
||||
|
||||
resolved_device = detect_device(defaults["device"])
|
||||
defaults = apply_device_defaults(defaults, resolved_device, cli_values, config)
|
||||
|
||||
ct_explicit = compute_type is not None or "compute_type" in config
|
||||
# Умолчания model/compute_type зависят от устройства — их разрешает module.
|
||||
request = ExecutionRequest(
|
||||
device=requested_device,
|
||||
model=defaults["model"],
|
||||
compute_type=defaults["compute_type"],
|
||||
language=defaults["language"],
|
||||
cpu_threads=threads,
|
||||
require_word_timestamps=diarize_enabled,
|
||||
)
|
||||
|
||||
expanded = expand_globs(files)
|
||||
if not expanded:
|
||||
@@ -358,23 +368,19 @@ def main(
|
||||
if is_batch:
|
||||
_run_batch(
|
||||
expanded,
|
||||
defaults,
|
||||
request,
|
||||
verbose,
|
||||
force,
|
||||
ct_explicit,
|
||||
cpu_threads=threads,
|
||||
diarize=diarize or speakers is not None,
|
||||
diarize=diarize_enabled,
|
||||
speakers=speakers,
|
||||
)
|
||||
else:
|
||||
_run_single(
|
||||
expanded[0],
|
||||
defaults,
|
||||
request,
|
||||
output,
|
||||
verbose,
|
||||
ct_explicit,
|
||||
cpu_threads=threads,
|
||||
diarize=diarize or speakers is not None,
|
||||
diarize=diarize_enabled,
|
||||
speakers=speakers,
|
||||
)
|
||||
except KeyboardInterrupt:
|
||||
@@ -383,21 +389,15 @@ def main(
|
||||
except SystemExit:
|
||||
raise
|
||||
except ValueError as exc:
|
||||
_print_cuda_hint(exc, requested_device)
|
||||
console.print(f"Ошибка: {exc}", style="red bold")
|
||||
raise SystemExit(1)
|
||||
except (FileNotFoundError,) as exc:
|
||||
_print_cuda_hint(exc, requested_device)
|
||||
console.print(f"Ошибка: {exc}", style="red bold")
|
||||
raise SystemExit(1)
|
||||
except Exception as exc:
|
||||
if _is_cuda_error(exc) and sys.platform == "win32":
|
||||
console.print(
|
||||
"GPU на Windows требует CUDA toolkit (включает cuBLAS).\n"
|
||||
"Установите одним из способов:\n"
|
||||
" choco install cuda\n"
|
||||
" winget install -e --id Nvidia.CUDA\n"
|
||||
"После установки перезапустите терминал.",
|
||||
style="yellow",
|
||||
)
|
||||
_print_cuda_hint(exc, requested_device)
|
||||
if verbose:
|
||||
console.print_exception()
|
||||
else:
|
||||
@@ -406,13 +406,50 @@ def main(
|
||||
raise SystemExit(1)
|
||||
|
||||
|
||||
def _print_execution_header(info: ExecutionInfo, verbose: bool) -> None:
|
||||
"""Печатает выбранное исполнение; в --verbose — версии runtime для диагностики."""
|
||||
console.print(
|
||||
f"Модель: [bold]{info.model}[/bold] "
|
||||
f"Устройство: [bold]{info.device}[/bold] "
|
||||
f"Compute: [bold]{info.compute_type}[/bold]"
|
||||
)
|
||||
if info.device == "openvino-gpu" and info.model != "large-v3":
|
||||
console.print(
|
||||
"Совет: --model large-v3 даёт лучшее качество на GPU (~2x дольше)",
|
||||
style="dim",
|
||||
)
|
||||
if info.device != info.resolved_device:
|
||||
console.print(
|
||||
f"Запрошено {info.requested_device}, используется {info.device}",
|
||||
style="yellow",
|
||||
)
|
||||
if verbose:
|
||||
threads = info.cpu_threads or "по умолчанию библиотеки"
|
||||
console.print(
|
||||
f"Движок: {info.engine} Потоки (запрошено): {threads}", style="dim"
|
||||
)
|
||||
for key, value in info.runtime.items():
|
||||
console.print(f" {key}: {value}", style="dim", markup=False)
|
||||
|
||||
|
||||
def _load_diarizer(
|
||||
diarize: bool, speakers: int | None, cpu_threads: int
|
||||
) -> SpeakerDiarizer | None:
|
||||
"""Готовит диаризатор до первого ASR; пословный контракт уже проверен module."""
|
||||
if not diarize:
|
||||
return None
|
||||
return load_speaker_diarizer(
|
||||
speakers=speakers,
|
||||
threads=cpu_threads,
|
||||
on_status=lambda message: console.print(message),
|
||||
)
|
||||
|
||||
|
||||
def _run_single(
|
||||
file: Path,
|
||||
defaults: dict[str, str],
|
||||
request: ExecutionRequest,
|
||||
output: Path | None,
|
||||
verbose: bool,
|
||||
compute_type_explicit: bool = False,
|
||||
cpu_threads: int = 0,
|
||||
diarize: bool = False,
|
||||
speakers: int | None = None,
|
||||
) -> None:
|
||||
@@ -420,9 +457,6 @@ def _run_single(
|
||||
start = time.monotonic()
|
||||
|
||||
validated_file = validate_input_file(file)
|
||||
requested_device = defaults["device"]
|
||||
resolved_device = detect_device(requested_device)
|
||||
strict = requested_device != "auto"
|
||||
output_path = build_output_path(validated_file, output)
|
||||
|
||||
console.print(f"Файл: [bold]{validated_file.name}[/bold]")
|
||||
@@ -430,59 +464,18 @@ def _run_single(
|
||||
def on_segment(seg: Segment) -> None:
|
||||
console.print(f" [{seg.start:.2f}s] {seg.text.strip()}")
|
||||
|
||||
model_obj, actual_device, backend, model_path = load_model(
|
||||
defaults["model"],
|
||||
resolved_device,
|
||||
defaults["compute_type"],
|
||||
on_status=lambda msg: console.print(msg),
|
||||
strict_device=strict,
|
||||
compute_type_explicit=compute_type_explicit,
|
||||
cpu_threads=cpu_threads,
|
||||
)
|
||||
actual_ct = (
|
||||
getattr(backend, "actual_compute_type", defaults["compute_type"])
|
||||
or defaults["compute_type"]
|
||||
)
|
||||
console.print(
|
||||
f"Модель: [bold]{defaults['model']}[/bold] "
|
||||
f"Устройство: [bold]{actual_device}[/bold] "
|
||||
f"Compute: [bold]{actual_ct}[/bold]"
|
||||
)
|
||||
if actual_device == "openvino-gpu" and defaults["model"] != "large-v3":
|
||||
console.print(
|
||||
"Совет: --model large-v3 даёт лучшее качество на GPU (~2x дольше)",
|
||||
style="dim",
|
||||
)
|
||||
|
||||
speaker_diarizer = None
|
||||
if diarize:
|
||||
if not backend.word_timestamps_available:
|
||||
raise ValueError(
|
||||
"Выбранный движок или модель не поддерживает пословные таймкоды"
|
||||
)
|
||||
speaker_diarizer = load_speaker_diarizer(
|
||||
speakers=speakers,
|
||||
threads=cpu_threads,
|
||||
on_status=lambda message: console.print(message),
|
||||
)
|
||||
transcriber = Transcriber(request)
|
||||
info = transcriber.prepare(on_status=lambda msg: console.print(msg))
|
||||
_print_execution_header(info, verbose)
|
||||
speaker_diarizer = _load_diarizer(diarize, speakers, request.cpu_threads)
|
||||
|
||||
with Status("Подготавливаю запуск...", console=console) as status:
|
||||
tfr = _transcribe_file(
|
||||
model=model_obj,
|
||||
actual_device=actual_device,
|
||||
backend=backend,
|
||||
model_path=model_path,
|
||||
file_path=validated_file,
|
||||
model_name=defaults["model"],
|
||||
compute_type=defaults["compute_type"],
|
||||
language=defaults["language"] if defaults["language"] != "auto" else None,
|
||||
result = transcriber.transcribe(
|
||||
validated_file,
|
||||
on_segment=on_segment if verbose else None,
|
||||
on_status=status.update,
|
||||
strict_device=strict,
|
||||
cpu_threads=cpu_threads,
|
||||
)
|
||||
|
||||
result = tfr.result
|
||||
speaker_transcript = None
|
||||
diarization_warning = None
|
||||
diarization_degraded = False
|
||||
@@ -509,33 +502,19 @@ def _run_single(
|
||||
if diarization_warning is not None:
|
||||
console.print(f"Внимание: {diarization_warning}", style="yellow")
|
||||
|
||||
if tfr.actual_device != resolved_device:
|
||||
if requested_device == "auto":
|
||||
console.print(
|
||||
f"Определено устройство {resolved_device}, "
|
||||
f"но использовано {tfr.actual_device} (fallback)",
|
||||
style="yellow",
|
||||
)
|
||||
else:
|
||||
console.print(
|
||||
f"Запрошено {requested_device}, использовано {tfr.actual_device}",
|
||||
style="yellow",
|
||||
)
|
||||
|
||||
if len(result.segments) == 0:
|
||||
message = f"Речь не обнаружена в файле {validated_file.name}"
|
||||
if speaker_diarizer is not None:
|
||||
message += "; диаризация не запускалась"
|
||||
console.print(message, style="yellow")
|
||||
|
||||
device_info = _format_device_info(result.device_used)
|
||||
language_mode = _format_language_mode(defaults["language"], result)
|
||||
language_mode = _format_language_mode(request.language or "auto", result)
|
||||
|
||||
content = format_transcript(
|
||||
result=result,
|
||||
source_filename=validated_file.name,
|
||||
model_name=defaults["model"],
|
||||
device_info=device_info,
|
||||
model_name=info.model,
|
||||
device_info=info.description,
|
||||
language_mode=language_mode,
|
||||
speaker_transcript=speaker_transcript,
|
||||
diarization_warning=diarization_warning,
|
||||
@@ -552,11 +531,9 @@ def _run_single(
|
||||
|
||||
def _run_batch(
|
||||
files: list[Path],
|
||||
defaults: dict[str, str],
|
||||
request: ExecutionRequest,
|
||||
verbose: bool,
|
||||
force: bool,
|
||||
compute_type_explicit: bool = False,
|
||||
cpu_threads: int = 0,
|
||||
diarize: bool = False,
|
||||
speakers: int | None = None,
|
||||
) -> None:
|
||||
@@ -586,50 +563,11 @@ def _run_batch(
|
||||
raise SystemExit(1)
|
||||
return
|
||||
|
||||
# Phase 2: Load model (ensure + create в одном вызове)
|
||||
requested_device = defaults["device"]
|
||||
resolved_device = detect_device(requested_device)
|
||||
strict = requested_device != "auto"
|
||||
model_obj, actual_device, backend, model_path = load_model(
|
||||
defaults["model"],
|
||||
resolved_device,
|
||||
defaults["compute_type"],
|
||||
on_status=lambda msg: console.print(msg),
|
||||
strict_device=strict,
|
||||
compute_type_explicit=compute_type_explicit,
|
||||
cpu_threads=cpu_threads,
|
||||
)
|
||||
|
||||
if actual_device == "openvino-gpu" and defaults["model"] != "large-v3":
|
||||
console.print(
|
||||
"Совет: --model large-v3 даёт лучшее качество на GPU (~2x дольше)",
|
||||
style="dim",
|
||||
)
|
||||
|
||||
if actual_device != resolved_device:
|
||||
if requested_device == "auto":
|
||||
console.print(
|
||||
f"Определено устройство {resolved_device}, "
|
||||
f"но используется {actual_device} (fallback)",
|
||||
style="yellow",
|
||||
)
|
||||
else:
|
||||
console.print(
|
||||
f"Запрошено {requested_device}, используется {actual_device}",
|
||||
style="yellow",
|
||||
)
|
||||
|
||||
speaker_diarizer = None
|
||||
if diarize:
|
||||
if not backend.word_timestamps_available:
|
||||
raise ValueError(
|
||||
"Выбранный движок или модель не поддерживает пословные таймкоды"
|
||||
)
|
||||
speaker_diarizer = load_speaker_diarizer(
|
||||
speakers=speakers,
|
||||
threads=cpu_threads,
|
||||
on_status=lambda message: console.print(message),
|
||||
)
|
||||
# Phase 2: module выполнения создаётся, когда есть работа
|
||||
transcriber = Transcriber(request)
|
||||
info = transcriber.prepare(on_status=lambda msg: console.print(msg))
|
||||
_print_execution_header(info, verbose)
|
||||
speaker_diarizer = _load_diarizer(diarize, speakers, request.cpu_threads)
|
||||
|
||||
# Phase 3: Transcribe
|
||||
processed = 0
|
||||
@@ -647,38 +585,15 @@ def _run_batch(
|
||||
console.print(f" [{seg.start:.2f}s] {seg.text.strip()}")
|
||||
|
||||
with Status(f"{prefix}...", console=console) as status:
|
||||
tfr = _transcribe_file(
|
||||
model=model_obj,
|
||||
actual_device=actual_device,
|
||||
backend=backend,
|
||||
model_path=model_path,
|
||||
file_path=file,
|
||||
model_name=defaults["model"],
|
||||
compute_type=defaults["compute_type"],
|
||||
language=defaults["language"]
|
||||
if defaults["language"] != "auto"
|
||||
else None,
|
||||
result = transcriber.transcribe(
|
||||
file,
|
||||
on_segment=on_segment if verbose else None,
|
||||
on_status=status.update
|
||||
if not verbose
|
||||
else lambda msg: console.print(msg),
|
||||
strict_device=strict,
|
||||
cpu_threads=cpu_threads,
|
||||
)
|
||||
|
||||
if tfr.actual_device != actual_device:
|
||||
console.print(
|
||||
f" {file.name}: fallback на {tfr.actual_device} при транскрипции",
|
||||
style="yellow",
|
||||
)
|
||||
# Обновляем после возможного mid-stream fallback
|
||||
model_obj = tfr.model
|
||||
actual_device = tfr.actual_device
|
||||
backend = tfr.backend
|
||||
model_path = tfr.model_path
|
||||
|
||||
result = tfr.result
|
||||
language_mode = _format_language_mode(defaults["language"], result)
|
||||
language_mode = _format_language_mode(request.language or "auto", result)
|
||||
speaker_transcript = None
|
||||
diarization_warning = None
|
||||
file_degraded = False
|
||||
@@ -718,13 +633,11 @@ def _run_batch(
|
||||
message += "; диаризация не запускалась"
|
||||
console.print(message, style="yellow")
|
||||
|
||||
device_info = _format_device_info(result.device_used)
|
||||
|
||||
content = format_transcript(
|
||||
result=result,
|
||||
source_filename=file.name,
|
||||
model_name=defaults["model"],
|
||||
device_info=device_info,
|
||||
model_name=info.model,
|
||||
device_info=info.description,
|
||||
language_mode=language_mode,
|
||||
speaker_transcript=speaker_transcript,
|
||||
diarization_warning=diarization_warning,
|
||||
@@ -743,6 +656,7 @@ def _run_batch(
|
||||
except KeyboardInterrupt:
|
||||
raise
|
||||
except Exception as exc:
|
||||
_print_cuda_hint(exc, request.device)
|
||||
if verbose:
|
||||
console.print_exception()
|
||||
else:
|
||||
|
||||
@@ -3,14 +3,56 @@
|
||||
import tomllib
|
||||
import warnings
|
||||
from pathlib import Path
|
||||
from typing import TypedDict, TypeVar, cast
|
||||
|
||||
HARDCODED_DEFAULTS: dict[str, str] = {
|
||||
type ConfigValue = str | bool
|
||||
_T = TypeVar("_T")
|
||||
|
||||
|
||||
class ConfigValues(TypedDict, total=False):
|
||||
"""Проверенные значения из TOML-конфига."""
|
||||
|
||||
model: str
|
||||
language: str
|
||||
device: str
|
||||
compute_type: str
|
||||
diarize: bool
|
||||
|
||||
|
||||
class CliValues(TypedDict, total=False):
|
||||
"""Явные значения CLI до разрешения каскада."""
|
||||
|
||||
model: str | None
|
||||
language: str | None
|
||||
device: str | None
|
||||
compute_type: str | None
|
||||
diarize: bool | None
|
||||
|
||||
|
||||
class ResolvedConfig(TypedDict):
|
||||
"""Конфигурация после каскада CLI > TOML.
|
||||
|
||||
``model`` и ``compute_type`` остаются ``None``, если не заданы явно:
|
||||
их умолчания зависят от устройства и разрешаются при загрузке модели.
|
||||
"""
|
||||
|
||||
model: str | None
|
||||
language: str
|
||||
device: str
|
||||
compute_type: str | None
|
||||
diarize: bool
|
||||
|
||||
|
||||
HARDCODED_DEFAULTS: ResolvedConfig = {
|
||||
"model": "medium",
|
||||
"language": "ru",
|
||||
"device": "auto",
|
||||
"compute_type": "float32",
|
||||
"diarize": False,
|
||||
}
|
||||
|
||||
# Умолчания по устройству; HARDCODED_DEFAULTS — последний резерв для
|
||||
# устройств вне таблицы.
|
||||
DEVICE_DEFAULTS: dict[str, dict[str, str]] = {
|
||||
"cuda": {"model": "medium", "compute_type": "float16"},
|
||||
"cpu": {"model": "medium", "compute_type": "float32"},
|
||||
@@ -46,7 +88,7 @@ def find_config_file() -> Path | None:
|
||||
return None
|
||||
|
||||
|
||||
def load_config(path: Path | None = None) -> dict[str, str]:
|
||||
def load_config(path: Path | None = None) -> ConfigValues:
|
||||
"""Загружает и валидирует TOML-конфиг.
|
||||
|
||||
Неизвестные ключи вызывают предупреждение (а не ошибку) для forward
|
||||
@@ -70,11 +112,19 @@ def load_config(path: Path | None = None) -> dict[str, str]:
|
||||
stacklevel=2,
|
||||
)
|
||||
|
||||
result: dict[str, str] = {}
|
||||
result: dict[str, ConfigValue] = {}
|
||||
for key in _VALID_KEYS:
|
||||
if key not in data:
|
||||
continue
|
||||
value = data[key]
|
||||
if key == "diarize":
|
||||
if not isinstance(value, bool):
|
||||
raise ValueError(
|
||||
f"Значение 'diarize' в {path} должно быть логическим, "
|
||||
f"получено {type(value).__name__}"
|
||||
)
|
||||
result[key] = value
|
||||
continue
|
||||
if not isinstance(value, str):
|
||||
raise ValueError(
|
||||
f"Значение '{key}' в {path} должно быть строкой, получено {type(value).__name__}"
|
||||
@@ -88,40 +138,41 @@ def load_config(path: Path | None = None) -> dict[str, str]:
|
||||
raise ValueError(f"Значение 'language' в {path} не может быть пустым")
|
||||
result[key] = value
|
||||
|
||||
return result
|
||||
return cast(ConfigValues, result)
|
||||
|
||||
|
||||
def resolve_defaults(
|
||||
cli_values: dict[str, str | None], config: dict[str, str]
|
||||
) -> dict[str, str]:
|
||||
"""Каскад приоритетов: CLI > конфиг-файл > hardcoded-дефолты."""
|
||||
result: dict[str, str] = {}
|
||||
for key in HARDCODED_DEFAULTS:
|
||||
cli_val = cli_values.get(key)
|
||||
if cli_val is not None:
|
||||
result[key] = cli_val
|
||||
elif key in config:
|
||||
result[key] = config[key]
|
||||
else:
|
||||
result[key] = HARDCODED_DEFAULTS[key]
|
||||
return result
|
||||
def resolve_defaults(cli_values: CliValues, config: ConfigValues) -> ResolvedConfig:
|
||||
"""Каскад приоритетов: CLI > конфиг-файл > hardcoded-дефолты.
|
||||
|
||||
Device-aware ключи (model, compute_type) без явного значения остаются None.
|
||||
"""
|
||||
return {
|
||||
"model": _resolve_value(cli_values.get("model"), config.get("model"), None),
|
||||
"language": _resolve_value(
|
||||
cli_values.get("language"),
|
||||
config.get("language"),
|
||||
HARDCODED_DEFAULTS["language"],
|
||||
),
|
||||
"device": _resolve_value(
|
||||
cli_values.get("device"),
|
||||
config.get("device"),
|
||||
HARDCODED_DEFAULTS["device"],
|
||||
),
|
||||
"compute_type": _resolve_value(
|
||||
cli_values.get("compute_type"), config.get("compute_type"), None
|
||||
),
|
||||
"diarize": _resolve_value(
|
||||
cli_values.get("diarize"),
|
||||
config.get("diarize"),
|
||||
HARDCODED_DEFAULTS["diarize"],
|
||||
),
|
||||
}
|
||||
|
||||
|
||||
def apply_device_defaults(
|
||||
defaults: dict[str, str],
|
||||
resolved_device: str,
|
||||
cli_values: dict[str, str | None],
|
||||
config: dict[str, str],
|
||||
) -> dict[str, str]:
|
||||
"""Применяет device-aware дефолты для model и compute_type,
|
||||
если они не были явно заданы через CLI или конфиг."""
|
||||
device_defs = DEVICE_DEFAULTS.get(resolved_device, {})
|
||||
if not device_defs:
|
||||
return defaults
|
||||
|
||||
result = dict(defaults)
|
||||
for key in ("model", "compute_type"):
|
||||
if cli_values.get(key) is None and key not in config:
|
||||
if key in device_defs:
|
||||
result[key] = device_defs[key]
|
||||
return result
|
||||
def _resolve_value(cli_value: _T | None, config_value: _T | None, default: _T) -> _T:
|
||||
"""Выбирает первое явно заданное значение каскада."""
|
||||
if cli_value is not None:
|
||||
return cli_value
|
||||
if config_value is not None:
|
||||
return config_value
|
||||
return default
|
||||
File diff suppressed because it is too large.
Load diff
@@ -2,170 +2,245 @@
|
||||
|
||||
import warnings
|
||||
from collections.abc import Callable
|
||||
from dataclasses import dataclass, field
|
||||
from pathlib import Path
|
||||
from typing import Any
|
||||
|
||||
from local_transcriber.backends import get_backend
|
||||
from local_transcriber.config import DEVICE_DEFAULTS, HARDCODED_DEFAULTS
|
||||
|
||||
# Re-export из types.py для обратной совместимости
|
||||
from local_transcriber.types import ( # noqa: F401
|
||||
from local_transcriber.types import (
|
||||
Segment,
|
||||
TranscribeFileResult,
|
||||
TranscribeResult,
|
||||
WordTimestampsUnavailableError,
|
||||
)
|
||||
from local_transcriber.utils import detect_device, get_gpu_name, get_intel_gpu_name
|
||||
|
||||
|
||||
def load_model(
|
||||
model_name: str,
|
||||
device: str,
|
||||
compute_type: str,
|
||||
on_status: Callable[[str], None] | None = None,
|
||||
strict_device: bool = False,
|
||||
compute_type_explicit: bool = False,
|
||||
cpu_threads: int = 0,
|
||||
) -> tuple[Any, str, Any, str]:
|
||||
"""Загружает модель: ensure + create с fallback.
|
||||
@dataclass(frozen=True)
|
||||
class ExecutionRequest:
|
||||
"""Запрошенные настройки запуска до разрешения умолчаний.
|
||||
|
||||
Возвращает (model, actual_device, backend, model_path).
|
||||
compute_type_explicit: True если пользователь явно указал --compute-type.
|
||||
cpu_threads: число потоков для CPU inference (0 = дефолт библиотеки).
|
||||
``None`` в model/compute_type означает device-aware умолчание;
|
||||
``strict_device=None`` — strict для любого явного device, кроме ``auto``.
|
||||
"""
|
||||
backend = get_backend(device, compute_type_explicit=compute_type_explicit)
|
||||
actual_device = device
|
||||
|
||||
model_path = backend.ensure_model_available(model_name, compute_type, on_status)
|
||||
device: str = "auto"
|
||||
model: str | None = None
|
||||
compute_type: str | None = None
|
||||
language: str | None = None
|
||||
cpu_threads: int = 0
|
||||
strict_device: bool | None = None
|
||||
require_word_timestamps: bool = False
|
||||
|
||||
try:
|
||||
_notify_status(on_status, f"Инициализирую модель на {device}...")
|
||||
model = backend.create_model(
|
||||
model_path, device, compute_type, cpu_threads=cpu_threads
|
||||
|
||||
@dataclass(frozen=True)
|
||||
class ExecutionInfo:
|
||||
"""Сведения о выполнении: что запрошено, что выбрано и чем выполняется."""
|
||||
|
||||
requested_device: str
|
||||
resolved_device: str # выбор до загрузки; отличается от device после fallback
|
||||
device: str
|
||||
engine: str
|
||||
model: str
|
||||
compute_type: str
|
||||
cpu_threads: int
|
||||
word_timestamps_available: bool
|
||||
description: str # строка исполнения для шапки транскрипта
|
||||
runtime: dict[str, str] = field(default_factory=dict)
|
||||
|
||||
|
||||
class Transcriber:
|
||||
"""Module выполнения распознавания на один запуск.
|
||||
|
||||
Владеет загруженной моделью, adapter'ом, фактическими настройками
|
||||
и разрешёнными переходами исполнения. Caller передаёт файлы по одному
|
||||
и получает результат; состояние между файлами не переносит.
|
||||
"""
|
||||
|
||||
def __init__(self, request: ExecutionRequest) -> None:
|
||||
self._request = request
|
||||
self._strict = (
|
||||
request.strict_device
|
||||
if request.strict_device is not None
|
||||
else request.device != "auto"
|
||||
)
|
||||
# Резолвим actual_device по реальному OpenVINO device
|
||||
ov_dev = getattr(backend, "actual_ov_device", None)
|
||||
if ov_dev == "GPU" and actual_device != "openvino-gpu":
|
||||
actual_device = "openvino-gpu"
|
||||
elif (
|
||||
ov_dev == "CPU"
|
||||
and actual_device.startswith("openvino")
|
||||
and actual_device != "openvino-cpu"
|
||||
):
|
||||
actual_device = "openvino-cpu"
|
||||
except (RuntimeError, ValueError) as exc:
|
||||
if device != "cpu" and _is_backend_error(exc, device):
|
||||
if strict_device:
|
||||
self._compute_type_explicit = request.compute_type is not None
|
||||
self._resolved_device = detect_device(request.device)
|
||||
self._device = self._resolved_device
|
||||
self._backend: Any = None
|
||||
self._model: Any = None
|
||||
self._info: ExecutionInfo | None = None
|
||||
|
||||
@property
|
||||
def execution(self) -> ExecutionInfo:
|
||||
"""Текущие сведения о выполнении; доступны после prepare()."""
|
||||
if self._info is None:
|
||||
raise RuntimeError("Модель ещё не подготовлена: вызовите prepare()")
|
||||
return self._info
|
||||
|
||||
def prepare(self, on_status: Callable[[str], None] | None = None) -> ExecutionInfo:
|
||||
"""Загружает модель и проверяет возможности до первого файла. Идемпотентно."""
|
||||
if self._info is not None:
|
||||
return self._info
|
||||
try:
|
||||
info = self._load(self._device, on_status)
|
||||
except (RuntimeError, ValueError) as exc:
|
||||
if not self._may_fall_back(exc):
|
||||
raise
|
||||
warnings.warn(
|
||||
f"Не удалось загрузить модель на {device}: {exc}. Переключение на CPU.",
|
||||
f"Не удалось загрузить модель на {self._device}: {exc}. "
|
||||
"Переключение на CPU.",
|
||||
stacklevel=2,
|
||||
)
|
||||
actual_device = "cpu"
|
||||
backend = get_backend("cpu")
|
||||
model_path = backend.ensure_model_available(
|
||||
model_name, compute_type, on_status
|
||||
info = self._load("cpu", on_status)
|
||||
if self._request.require_word_timestamps and not info.word_timestamps_available:
|
||||
raise ValueError(
|
||||
"Выбранный движок или модель не поддерживает пословные таймкоды"
|
||||
)
|
||||
_notify_status(on_status, "Инициализирую модель на cpu...")
|
||||
model = backend.create_model(
|
||||
model_path, "cpu", compute_type, cpu_threads=cpu_threads
|
||||
)
|
||||
else:
|
||||
raise
|
||||
self._info = info
|
||||
return info
|
||||
|
||||
return model, actual_device, backend, model_path
|
||||
|
||||
|
||||
def _transcribe_file(
|
||||
model: Any,
|
||||
actual_device: str,
|
||||
backend: Any,
|
||||
model_path: str,
|
||||
file_path: Path,
|
||||
model_name: str,
|
||||
compute_type: str,
|
||||
language: str | None = None,
|
||||
on_segment: Callable[[Segment], None] | None = None,
|
||||
on_status: Callable[[str], None] | None = None,
|
||||
strict_device: bool = False,
|
||||
cpu_threads: int = 0,
|
||||
) -> TranscribeFileResult:
|
||||
"""Транскрибирует один файл. При mid-stream fallback перезагружает модель."""
|
||||
lang_arg = language if language and language != "auto" else None
|
||||
|
||||
try:
|
||||
_notify_status(on_status, "Транскрибирую...")
|
||||
result = backend.transcribe(model, file_path, lang_arg, on_segment, on_status)
|
||||
result.device_used = actual_device
|
||||
except (RuntimeError, ValueError) as exc:
|
||||
if actual_device != "cpu" and _is_backend_error(exc, actual_device):
|
||||
if strict_device:
|
||||
def transcribe(
|
||||
self,
|
||||
file_path: Path,
|
||||
on_segment: Callable[[Segment], None] | None = None,
|
||||
on_status: Callable[[str], None] | None = None,
|
||||
) -> TranscribeResult:
|
||||
"""Транскрибирует один файл; при разрешённом fallback перезагружает модель."""
|
||||
self.prepare(on_status)
|
||||
lang_arg = self._request.language or None
|
||||
if lang_arg == "auto":
|
||||
lang_arg = None
|
||||
try:
|
||||
result = self._recognize(file_path, lang_arg, on_segment, on_status)
|
||||
except (RuntimeError, ValueError) as exc:
|
||||
if not self._may_fall_back(exc):
|
||||
raise
|
||||
warnings.warn(
|
||||
f"Ошибка при транскрипции на {actual_device}: {exc}. "
|
||||
f"Ошибка при транскрипции на {self._device}: {exc}. "
|
||||
"Переключение на CPU и повтор.",
|
||||
stacklevel=2,
|
||||
)
|
||||
actual_device = "cpu"
|
||||
backend = get_backend("cpu")
|
||||
model_path = backend.ensure_model_available(
|
||||
model_name, compute_type, on_status
|
||||
)
|
||||
_notify_status(on_status, "Инициализирую модель на cpu...")
|
||||
model = backend.create_model(
|
||||
model_path, "cpu", compute_type, cpu_threads=cpu_threads
|
||||
)
|
||||
_notify_status(on_status, "Транскрибирую...")
|
||||
result = backend.transcribe(
|
||||
model, file_path, lang_arg, on_segment, on_status
|
||||
)
|
||||
result.device_used = actual_device
|
||||
else:
|
||||
raise
|
||||
self._info = self._load("cpu", on_status)
|
||||
result = self._recognize(file_path, lang_arg, on_segment, on_status)
|
||||
return result
|
||||
|
||||
return TranscribeFileResult(
|
||||
result=result,
|
||||
model=model,
|
||||
actual_device=actual_device,
|
||||
backend=backend,
|
||||
model_path=model_path,
|
||||
)
|
||||
def _recognize(
|
||||
self,
|
||||
file_path: Path,
|
||||
language: str | None,
|
||||
on_segment: Callable[[Segment], None] | None,
|
||||
on_status: Callable[[str], None] | None,
|
||||
) -> TranscribeResult:
|
||||
_notify_status(on_status, "Транскрибирую...")
|
||||
result = self._backend.transcribe(
|
||||
self._model, file_path, language, on_segment, on_status
|
||||
)
|
||||
result.device_used = self._device
|
||||
return result
|
||||
|
||||
def _may_fall_back(self, exc: BaseException) -> bool:
|
||||
"""Разрешённый переход: не strict, не CPU и ошибка самого движка."""
|
||||
if self._strict or self._device == "cpu":
|
||||
return False
|
||||
return _is_backend_error(exc, self._device)
|
||||
|
||||
def _load(
|
||||
self, device: str, on_status: Callable[[str], None] | None
|
||||
) -> ExecutionInfo:
|
||||
"""Загружает модель на device; неявные model/compute_type берутся из его умолчаний."""
|
||||
defaults = DEVICE_DEFAULTS.get(device, {})
|
||||
model_name = self._request.model or defaults.get(
|
||||
"model", HARDCODED_DEFAULTS["model"]
|
||||
)
|
||||
compute_type = self._request.compute_type or defaults.get(
|
||||
"compute_type", HARDCODED_DEFAULTS["compute_type"]
|
||||
)
|
||||
backend = get_backend(device, compute_type_explicit=self._compute_type_explicit)
|
||||
model_path = backend.ensure_model_available(model_name, compute_type, on_status)
|
||||
_notify_status(on_status, f"Инициализирую модель на {device}...")
|
||||
model = backend.create_model(
|
||||
model_path,
|
||||
device,
|
||||
compute_type,
|
||||
cpu_threads=self._request.cpu_threads,
|
||||
)
|
||||
self._backend = backend
|
||||
self._model = model
|
||||
self._device = _refine_openvino_device(device, backend)
|
||||
return ExecutionInfo(
|
||||
requested_device=self._request.device,
|
||||
resolved_device=self._resolved_device,
|
||||
device=self._device,
|
||||
engine=backend.engine,
|
||||
model=model_name,
|
||||
compute_type=getattr(backend, "actual_compute_type", None) or compute_type,
|
||||
cpu_threads=self._request.cpu_threads,
|
||||
word_timestamps_available=bool(backend.word_timestamps_available),
|
||||
description=_describe_device(self._device),
|
||||
runtime=_collect_runtime_info(backend),
|
||||
)
|
||||
|
||||
|
||||
def _collect_runtime_info(backend: Any) -> dict[str, str]:
|
||||
"""Диагностика не должна ронять запуск: сбой попадает в сведения строкой."""
|
||||
try:
|
||||
return dict(backend.runtime_info())
|
||||
except Exception as exc: # noqa: BLE001
|
||||
return {"diagnostics": f"недоступно ({exc})"}
|
||||
|
||||
|
||||
def _refine_openvino_device(device: str, backend: Any) -> str:
|
||||
"""Заменяет запрошенный openvino-* на устройство, которое реально выбрал OpenVINO."""
|
||||
ov_dev = getattr(backend, "actual_ov_device", None)
|
||||
if ov_dev == "GPU" and device != "openvino-gpu":
|
||||
return "openvino-gpu"
|
||||
if ov_dev == "CPU" and device.startswith("openvino") and device != "openvino-cpu":
|
||||
return "openvino-cpu"
|
||||
return device
|
||||
|
||||
|
||||
def _describe_device(device: str) -> str:
|
||||
"""Строка исполнения для шапки транскрипта; GPU называется только по данным драйвера."""
|
||||
if device == "cuda":
|
||||
return f"CUDA ({get_gpu_name() or 'Unknown GPU'})"
|
||||
if device == "openvino-gpu":
|
||||
return f"OpenVINO ({get_intel_gpu_name() or 'Intel GPU'})"
|
||||
if device == "openvino-cpu":
|
||||
return "OpenVINO (CPU)"
|
||||
if device == "onnx":
|
||||
return "ONNX (CPU)"
|
||||
return "CPU"
|
||||
|
||||
|
||||
def transcribe(
|
||||
file_path: Path,
|
||||
model_name: str = "large-v3",
|
||||
model_name: str | None = None,
|
||||
device: str = "auto",
|
||||
compute_type: str = "int8",
|
||||
compute_type: str | None = None,
|
||||
language: str | None = None,
|
||||
on_segment: Callable[[Segment], None] | None = None,
|
||||
on_status: Callable[[str], None] | None = None,
|
||||
strict_device: bool = False,
|
||||
cpu_threads: int = 0,
|
||||
) -> TranscribeResult:
|
||||
"""High-level API: загрузка модели + транскрипция за один вызов."""
|
||||
model, actual_device, backend, model_path = load_model(
|
||||
model_name,
|
||||
device,
|
||||
compute_type,
|
||||
on_status,
|
||||
strict_device,
|
||||
compute_type_explicit=True, # Python API — caller explicitly chose compute_type
|
||||
cpu_threads=cpu_threads,
|
||||
"""Публичный путь одного файла через тот же module выполнения, что и CLI.
|
||||
|
||||
``None`` в model_name/compute_type берёт умолчания выбранного исполнения.
|
||||
"""
|
||||
run = Transcriber(
|
||||
ExecutionRequest(
|
||||
device=device,
|
||||
model=model_name,
|
||||
compute_type=compute_type,
|
||||
language=language,
|
||||
cpu_threads=cpu_threads,
|
||||
strict_device=strict_device,
|
||||
)
|
||||
)
|
||||
tfr = _transcribe_file(
|
||||
model,
|
||||
actual_device,
|
||||
backend,
|
||||
model_path,
|
||||
file_path,
|
||||
model_name,
|
||||
compute_type,
|
||||
language,
|
||||
on_segment,
|
||||
on_status,
|
||||
strict_device,
|
||||
cpu_threads=cpu_threads,
|
||||
)
|
||||
return tfr.result
|
||||
return run.transcribe(file_path, on_segment, on_status)
|
||||
|
||||
|
||||
def ensure_model_available(
|
||||
@@ -175,8 +250,6 @@ def ensure_model_available(
|
||||
on_status: Callable[[str], None] | None = None,
|
||||
) -> str:
|
||||
"""Публичный helper: гарантирует наличие модели для указанного бэкенда."""
|
||||
from local_transcriber.config import DEVICE_DEFAULTS, HARDCODED_DEFAULTS
|
||||
|
||||
if compute_type is None:
|
||||
device_defs = DEVICE_DEFAULTS.get(device, {})
|
||||
compute_type = device_defs.get(
|
||||
@@ -190,11 +263,60 @@ def ensure_model_available(
|
||||
|
||||
|
||||
def _is_cuda_error(exc: BaseException) -> bool:
|
||||
"""Проверка CUDA ошибок — используется в cli.py для Windows-диагностики."""
|
||||
"""Проверяет, относится ли ошибка к CUDA-бэкенду."""
|
||||
msg = str(exc).lower()
|
||||
return any(k in msg for k in ("cuda", "cublas", "cudnn", "out of memory"))
|
||||
|
||||
|
||||
def cuda_error_hint(exc: BaseException, *, device: str | None = None) -> str | None:
|
||||
"""Подсказывает действие только для распознанной причины CUDA-ошибки."""
|
||||
msg = str(exc).lower()
|
||||
if device == "cuda" and "requested " in msg and "compute type" in msg and (
|
||||
"do not support efficient" in msg
|
||||
):
|
||||
return (
|
||||
"Тип вычислений несовместим с выбранным GPU/CUDA runtime. "
|
||||
"Установка extra не добавит аппаратную поддержку. Выберите "
|
||||
"поддерживаемый --compute-type или --device onnx / --device cpu."
|
||||
)
|
||||
if any(k in msg for k in (
|
||||
"no kernel image", "invalid device function", "unsupported gpu",
|
||||
"cublas_status_arch_mismatch", "cuda_error_no_binary_for_gpu",
|
||||
)):
|
||||
return (
|
||||
"GPU несовместим с выбранным CUDA runtime. Установка extra не исправит "
|
||||
"аппаратную несовместимость. Используйте --device onnx или --device cpu."
|
||||
)
|
||||
if any(k in msg for k in (
|
||||
"driver version is insufficient", "no cuda-capable device",
|
||||
"cuda error: no device", "cuda_error_no_device", "libcuda.so", "nvcuda.dll",
|
||||
)):
|
||||
return (
|
||||
"CUDA не видит совместимого GPU/драйвера. Проверьте драйвер NVIDIA "
|
||||
"и совместимость устройства с runtime. Extra не устанавливает драйвер."
|
||||
)
|
||||
if any(k in msg for k in ("cublas", "cudnn", "cudart")) and any(
|
||||
k in msg for k in (
|
||||
"not found", "cannot be loaded", "could not load", "could not find",
|
||||
"cannot open shared object", "no such file", "winerror 126",
|
||||
)
|
||||
):
|
||||
return (
|
||||
"Не найдены CUDA-библиотеки или их зависимости. Подключите extra cuda "
|
||||
"в окружении приложения:\n"
|
||||
" Из клона: uv tool install --force '.[cuda]'\n"
|
||||
" Для разработки: uv sync --extra cuda\n"
|
||||
"При установке из Git используйте инструкцию CUDA в README. "
|
||||
"На Windows также нужен Visual C++ Runtime x64."
|
||||
)
|
||||
if "out of memory" in msg and any(k in msg for k in ("cuda", "cublas", "cudnn")):
|
||||
return (
|
||||
"Недостаточно памяти для выбранного CUDA-пути. Выберите меньшую модель "
|
||||
"или явно используйте --device onnx / --device cpu."
|
||||
)
|
||||
return None
|
||||
|
||||
|
||||
def _is_backend_error(exc: BaseException, device: str) -> bool:
|
||||
"""Определяет, связана ли ошибка с конкретным бэкендом (а не с пользовательскими данными)."""
|
||||
if isinstance(exc, WordTimestampsUnavailableError):
|
||||
|
||||
@@ -2,7 +2,6 @@
|
||||
|
||||
from collections.abc import Callable
|
||||
from dataclasses import dataclass, field
|
||||
from typing import Any
|
||||
|
||||
# Единый признак «язык неизвестен» для всех бэкендов
|
||||
UNKNOWN_LANGUAGE = "unknown"
|
||||
@@ -83,14 +82,5 @@ class TranscribeResult:
|
||||
words: list[Word] = field(default_factory=list)
|
||||
|
||||
|
||||
@dataclass
|
||||
class TranscribeFileResult:
|
||||
result: TranscribeResult
|
||||
model: Any # backend-specific model handle
|
||||
actual_device: str
|
||||
backend: Any = None # backend instance (для переиспользования в батче)
|
||||
model_path: str = "" # путь к модели (меняется при cross-backend fallback)
|
||||
|
||||
|
||||
StatusCallback = Callable[[str], None] | None
|
||||
SegmentCallback = Callable[[Segment], None] | None
|
||||
@@ -2,9 +2,9 @@
|
||||
|
||||
import glob
|
||||
import platform
|
||||
import shutil
|
||||
import subprocess
|
||||
import warnings
|
||||
from importlib.metadata import PackageNotFoundError, version
|
||||
from pathlib import Path
|
||||
|
||||
SUPPORTED_EXTENSIONS = {
|
||||
@@ -16,15 +16,13 @@ SUPPORTED_EXTENSIONS = {
|
||||
def detect_device(requested: str = "auto") -> str:
|
||||
"""Определяет устройство для вычислений.
|
||||
|
||||
При ``requested="auto"`` выбирает CUDA при наличии ``nvidia-smi``,
|
||||
иначе ONNX на CPU.
|
||||
При ``requested="auto"`` всегда выбирает ONNX на CPU.
|
||||
CUDA включается только явным выбором пользователя.
|
||||
``"openvino"`` — алиас для авто-детекта внутри OpenVINO
|
||||
(GPU если доступен, иначе CPU).
|
||||
Возвращает всегда конкретное значение (не абстрактный ``"openvino"``).
|
||||
"""
|
||||
if requested == "auto":
|
||||
if shutil.which("nvidia-smi") is not None:
|
||||
return "cuda"
|
||||
return "onnx"
|
||||
if requested == "openvino":
|
||||
if _is_openvino_gpu_available():
|
||||
@@ -144,3 +142,11 @@ def expand_globs(paths: list[Path]) -> list[Path]:
|
||||
def has_existing_transcript(input_path: Path) -> bool:
|
||||
"""Проверяет наличие транскрипта для skip-логики батч-режима."""
|
||||
return build_output_path(input_path).exists()
|
||||
|
||||
|
||||
def package_version(name: str) -> str:
|
||||
"""Версия установленного пакета для диагностики; отсутствие не считается ошибкой."""
|
||||
try:
|
||||
return version(name)
|
||||
except PackageNotFoundError:
|
||||
return "не установлен"
|
||||
@@ -7,6 +7,25 @@ from local_transcriber.backends.faster_whisper import FasterWhisperBackend
|
||||
from local_transcriber.types import Word
|
||||
|
||||
|
||||
@pytest.mark.parametrize("device", ["cpu", "cuda"])
|
||||
def test_bootstrap_only_for_explicit_cuda(monkeypatch, device):
|
||||
"""CPU-модель не загружает optional CUDA-библиотеки."""
|
||||
bootstrap = MagicMock()
|
||||
model_factory = MagicMock()
|
||||
monkeypatch.setattr(
|
||||
"local_transcriber.backends.faster_whisper.ensure_cublas_loadable", bootstrap
|
||||
)
|
||||
monkeypatch.setattr("faster_whisper.WhisperModel", model_factory)
|
||||
|
||||
model = FasterWhisperBackend().create_model("/model", device, "float32")
|
||||
|
||||
assert model is model_factory.return_value
|
||||
assert bootstrap.call_count == (1 if device == "cuda" else 0)
|
||||
model_factory.assert_called_once_with(
|
||||
"/model", device=device, compute_type="float32", cpu_threads=0
|
||||
)
|
||||
|
||||
|
||||
def test_transcribe_returns_canonical_words(tmp_path):
|
||||
audio = tmp_path / "audio.wav"
|
||||
raw_word = SimpleNamespace(start=0.2, end=0.7, word=" Привет")
|
||||
@@ -64,3 +83,18 @@ def test_transcribe_rejects_one_nonempty_segment_without_word_timestamps(tmp_pat
|
||||
|
||||
with pytest.raises(RuntimeError, match="пословные таймкоды"):
|
||||
FasterWhisperBackend().transcribe(model, tmp_path / "audio.wav", "ru")
|
||||
|
||||
|
||||
def test_runtime_info_reports_versions_and_cuda_devices(monkeypatch):
|
||||
"""Диагностика называет версии runtime и число CUDA-устройств, не обещая ускорения."""
|
||||
monkeypatch.setattr("ctranslate2.get_cuda_device_count", lambda: 0)
|
||||
backend = FasterWhisperBackend()
|
||||
backend.actual_compute_type = "float32"
|
||||
|
||||
info = backend.runtime_info()
|
||||
|
||||
assert info["ctranslate2"]
|
||||
assert info["faster_whisper"]
|
||||
assert info["cuda_devices"] == "0"
|
||||
assert info["compute_type"] == "float32"
|
||||
assert info["cpu_threads"] == "по умолчанию"
|
||||
@@ -463,3 +463,21 @@ def test_validate_model_dir_requires_alignment_heads_for_word_timestamps(tmp_pat
|
||||
|
||||
with pytest.raises(ValueError, match="alignment_heads"):
|
||||
_validate_model_dir(tmp_path)
|
||||
|
||||
|
||||
def test_runtime_info_reports_available_and_actual_devices(monkeypatch):
|
||||
"""Диагностика показывает устройства OpenVINO и то, что выбрано фактически."""
|
||||
core = MagicMock()
|
||||
core.available_devices = ["CPU", "GPU"]
|
||||
monkeypatch.setattr("openvino.Core", lambda: core)
|
||||
backend = OpenVINOBackend(ov_device="openvino-gpu", compute_type_explicit=True)
|
||||
backend.actual_ov_device = "GPU"
|
||||
backend.actual_compute_type = "fp16"
|
||||
|
||||
info = backend.runtime_info()
|
||||
|
||||
assert info["openvino"]
|
||||
assert info["available_devices"] == "CPU, GPU"
|
||||
assert info["device"] == "GPU"
|
||||
assert info["compute_type"] == "fp16"
|
||||
assert "--threads не применяется" in info["threads"]
|
||||
@@ -4,6 +4,7 @@ import json
|
||||
import os
|
||||
import zipfile
|
||||
from pathlib import Path
|
||||
from types import SimpleNamespace
|
||||
|
||||
import pytest
|
||||
|
||||
@@ -206,6 +207,119 @@ def _environment() -> dict[str, object]:
|
||||
}
|
||||
|
||||
|
||||
def _finalized_handoff_manifest(tmp_path: Path) -> dict[str, object]:
|
||||
manifest = _manifest(tmp_path)
|
||||
baseline = manifest["cells"][0]
|
||||
baseline.update(
|
||||
name="W0",
|
||||
phase="combination",
|
||||
pair_id="combination-c2",
|
||||
pair_role="baseline",
|
||||
schedule_position=10,
|
||||
)
|
||||
candidate = copy.deepcopy(baseline)
|
||||
candidate.update(
|
||||
name="C2",
|
||||
pair_role="candidate",
|
||||
schedule_position=11,
|
||||
)
|
||||
candidate["inference"].update(
|
||||
mode="shared-session",
|
||||
outer_workers=2,
|
||||
session_count=1,
|
||||
intra_op_threads=4,
|
||||
)
|
||||
manifest["cells"] = [baseline, candidate]
|
||||
cell_id = experiment.make_cell_id(manifest, candidate)
|
||||
manifest["handoff"] = {
|
||||
"outcome": "handoff",
|
||||
"source_commit": manifest["experiment"]["source_commit"],
|
||||
"candidate_recipes": [
|
||||
{
|
||||
"name": "C2",
|
||||
"cell_id": cell_id,
|
||||
"result_file": "results/w0.json",
|
||||
"result_sha256": "3" * 64,
|
||||
"mandatory_passed": True,
|
||||
"memory_passed": True,
|
||||
"diagnostic_approved": True,
|
||||
}
|
||||
],
|
||||
"public_report_sha256": "4" * 64,
|
||||
"capsule_id": "opaque-41",
|
||||
"capsule_sha256": "5" * 64,
|
||||
}
|
||||
return manifest
|
||||
|
||||
|
||||
def _ryzen_capsule_fixture(tmp_path: Path):
|
||||
intel = _finalized_handoff_manifest(tmp_path)
|
||||
payloads = {}
|
||||
|
||||
def make_relative(item, archive_path):
|
||||
content = Path(item["path"]).read_bytes()
|
||||
item["path"] = archive_path
|
||||
payloads[archive_path] = content
|
||||
local_path = tmp_path / archive_path
|
||||
local_path.parent.mkdir(parents=True, exist_ok=True)
|
||||
local_path.write_bytes(content)
|
||||
|
||||
for artifact in intel["artifacts"]:
|
||||
make_relative(artifact, f"artifacts/{artifact['id']}.bin")
|
||||
for recording in intel["recordings"]:
|
||||
make_relative(recording, f"recordings/{recording['id']}.wav")
|
||||
make_relative(
|
||||
recording["asr_words"], f"sidecars/{recording['id']}.words.json"
|
||||
)
|
||||
if recording["reference"] is not None:
|
||||
make_relative(
|
||||
recording["reference"], f"references/{recording['id']}.md"
|
||||
)
|
||||
for source in intel["calibration"]:
|
||||
make_relative(source, f"calibration/{source['id']}.wav")
|
||||
|
||||
result_bytes = b'{"aggregate":{"quality_passed":true}}'
|
||||
result_path = "results/c2.json"
|
||||
payloads[result_path] = result_bytes
|
||||
candidate = intel["handoff"]["candidate_recipes"][0]
|
||||
candidate["result_file"] = result_path
|
||||
candidate["result_sha256"] = hashlib.sha256(result_bytes).hexdigest()
|
||||
intel_bytes = json.dumps(intel, separators=(",", ":")).encode()
|
||||
files = {
|
||||
"manifest.json": hashlib.sha256(intel_bytes).hexdigest(),
|
||||
**{name: hashlib.sha256(value).hexdigest() for name, value in payloads.items()},
|
||||
}
|
||||
capsule = {
|
||||
"capsule_id": intel["handoff"]["capsule_id"],
|
||||
"source_commit": intel["handoff"]["source_commit"],
|
||||
"public_report_sha256": intel["handoff"]["public_report_sha256"],
|
||||
"files": files,
|
||||
}
|
||||
archive_path = tmp_path / "capsule.zip"
|
||||
with zipfile.ZipFile(archive_path, "w") as archive:
|
||||
archive.writestr("capsule.json", json.dumps(capsule))
|
||||
archive.writestr("manifest.json", intel_bytes)
|
||||
for name, content in payloads.items():
|
||||
archive.writestr(name, content)
|
||||
|
||||
ryzen = copy.deepcopy(intel)
|
||||
ryzen["experiment"].update(
|
||||
id="cpu-diarization-ryzen",
|
||||
stage="ryzen",
|
||||
handoff_commit="6" * 40,
|
||||
)
|
||||
ryzen["machine"].update(
|
||||
id="ryzen-8845h",
|
||||
sku="AMD Ryzen 7 8845H",
|
||||
physical_cores=8,
|
||||
logical_cores=16,
|
||||
)
|
||||
for cell in ryzen["cells"]:
|
||||
cell["stage"] = "ryzen"
|
||||
cell["inference"]["intra_op_threads"] = 8
|
||||
return archive_path, ryzen, files["manifest.json"]
|
||||
|
||||
|
||||
def _guard(**changes) -> dict[str, object]:
|
||||
result = {
|
||||
"supply": "ac",
|
||||
@@ -322,6 +436,134 @@ def test_portable_handoff_check_skips_only_machine_identity(tmp_path):
|
||||
)
|
||||
|
||||
|
||||
def test_ryzen_manifest_preserves_intel_capsule_inputs_and_evidence(tmp_path):
|
||||
intel = _finalized_handoff_manifest(tmp_path)
|
||||
experiment.validate_manifest(intel, verify_files=False)
|
||||
ryzen = copy.deepcopy(intel)
|
||||
ryzen["experiment"].update(
|
||||
id="cpu-diarization-ryzen",
|
||||
stage="ryzen",
|
||||
handoff_commit="6" * 40,
|
||||
)
|
||||
ryzen["machine"].update(
|
||||
id="ryzen-8845h",
|
||||
sku="AMD Ryzen 7 8845H",
|
||||
physical_cores=8,
|
||||
logical_cores=16,
|
||||
)
|
||||
for cell in ryzen["cells"]:
|
||||
cell["stage"] = "ryzen"
|
||||
cell["inference"]["intra_op_threads"] = 8
|
||||
ryzen["cells"][0]["name"] = "R-W0-primary"
|
||||
ryzen["cells"][1]["name"] = "R-C2-primary"
|
||||
|
||||
experiment.validate_manifest(ryzen, verify_files=False)
|
||||
experiment._validate_ryzen_capsule_manifest(ryzen, intel)
|
||||
|
||||
changed_input = copy.deepcopy(ryzen)
|
||||
changed_input["artifacts"][0]["sha256"] = "7" * 64
|
||||
with pytest.raises(ValueError, match="закрепленные входы"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_input, intel)
|
||||
|
||||
changed_handoff = copy.deepcopy(ryzen)
|
||||
changed_handoff["handoff"]["public_report_sha256"] = "8" * 64
|
||||
with pytest.raises(ValueError, match="handoff"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_handoff, intel)
|
||||
|
||||
changed_recipe = copy.deepcopy(ryzen)
|
||||
changed_recipe["cells"][1]["window_shift_ratio"] = 0.2
|
||||
with pytest.raises(ValueError, match="рецептом handoff"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_recipe, intel)
|
||||
|
||||
changed_candidate = copy.deepcopy(intel)
|
||||
changed_candidate["handoff"]["candidate_recipes"][0]["cell_id"] = "8" * 64
|
||||
changed_candidate_ryzen = copy.deepcopy(ryzen)
|
||||
changed_candidate_ryzen["handoff"]["candidate_recipes"][0]["cell_id"] = (
|
||||
"8" * 64
|
||||
)
|
||||
with pytest.raises(ValueError, match="Intel combination"):
|
||||
experiment._validate_ryzen_capsule_manifest(
|
||||
changed_candidate_ryzen, changed_candidate
|
||||
)
|
||||
|
||||
changed_baseline = copy.deepcopy(ryzen)
|
||||
changed_baseline["cells"][0]["window_shift_ratio"] = 0.5
|
||||
with pytest.raises(ValueError, match="baseline"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_baseline, intel)
|
||||
|
||||
changed_phase = copy.deepcopy(ryzen)
|
||||
changed_phase["cells"][1]["phase"] = "mechanism"
|
||||
changed_phase["cells"][1]["window_shift_ratio"] = 0.5
|
||||
with pytest.raises(ValueError, match="механизмом handoff"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_phase, intel)
|
||||
|
||||
changed_patch = copy.deepcopy(ryzen)
|
||||
changed_patch["experiment"]["sherpa_patch_sha256"] = "7" * 64
|
||||
with pytest.raises(ValueError, match="runtime"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_patch, intel)
|
||||
|
||||
changed_dependencies = copy.deepcopy(ryzen)
|
||||
changed_dependencies["experiment"]["dependencies"]["onnxruntime"] = "1.99.0"
|
||||
with pytest.raises(ValueError, match="runtime"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_dependencies, intel)
|
||||
|
||||
changed_rss_interval = copy.deepcopy(ryzen)
|
||||
changed_rss_interval["rss_sample_interval_ms"] = 5000
|
||||
with pytest.raises(ValueError, match="RSS"):
|
||||
experiment._validate_ryzen_capsule_manifest(changed_rss_interval, intel)
|
||||
|
||||
literal_workers_intel = copy.deepcopy(intel)
|
||||
literal_workers_intel["cells"][1]["inference"]["outer_workers"] = 4
|
||||
literal_workers_intel["handoff"]["candidate_recipes"][0]["cell_id"] = (
|
||||
experiment.make_cell_id(
|
||||
literal_workers_intel, literal_workers_intel["cells"][1]
|
||||
)
|
||||
)
|
||||
literal_workers_ryzen = copy.deepcopy(ryzen)
|
||||
literal_workers_ryzen["handoff"] = copy.deepcopy(
|
||||
literal_workers_intel["handoff"]
|
||||
)
|
||||
literal_workers_ryzen["cells"][1]["inference"].update(
|
||||
outer_workers=4,
|
||||
intra_op_threads=4,
|
||||
)
|
||||
experiment._validate_ryzen_capsule_manifest(
|
||||
literal_workers_ryzen, literal_workers_intel
|
||||
)
|
||||
scaled_workers_ryzen = copy.deepcopy(literal_workers_ryzen)
|
||||
scaled_workers_ryzen["cells"][1]["inference"].update(
|
||||
outer_workers=8,
|
||||
intra_op_threads=8,
|
||||
)
|
||||
with pytest.raises(ValueError, match="рецептом handoff"):
|
||||
experiment._validate_ryzen_capsule_manifest(
|
||||
scaled_workers_ryzen, literal_workers_intel
|
||||
)
|
||||
|
||||
|
||||
@pytest.mark.parametrize("cell_id", [None, "not-a-sha256"])
|
||||
def test_ryzen_manifest_rejects_invalid_handoff_cell_id(tmp_path, cell_id):
|
||||
manifest = _finalized_handoff_manifest(tmp_path)
|
||||
manifest["experiment"].update(stage="ryzen", handoff_commit="6" * 40)
|
||||
for cell in manifest["cells"]:
|
||||
cell["stage"] = "ryzen"
|
||||
manifest["handoff"]["candidate_recipes"][0]["cell_id"] = cell_id
|
||||
|
||||
with pytest.raises(ValueError, match="cell_id"):
|
||||
experiment.validate_manifest(manifest, verify_files=False)
|
||||
|
||||
|
||||
def test_manifest_accepts_unavailable_temperature_sensor(tmp_path):
|
||||
manifest = _manifest(tmp_path)
|
||||
manifest["machine"]["power"]["temperature_celsius"] = None
|
||||
|
||||
experiment.validate_manifest(manifest, verify_files=False)
|
||||
|
||||
manifest["machine"]["power"]["temperature_celsius"] = -1.0
|
||||
with pytest.raises(ValueError, match="temperature_celsius"):
|
||||
experiment.validate_manifest(manifest, verify_files=False)
|
||||
|
||||
|
||||
def test_manifest_rejects_stage_boundary_thread_budget_and_non_alternating_ab(tmp_path):
|
||||
manifest = _manifest(tmp_path)
|
||||
manifest["cells"][0]["stage"] = "ryzen"
|
||||
@@ -808,6 +1050,20 @@ def test_capsule_verification_checks_hashes_commits_and_safe_paths(tmp_path):
|
||||
"manifest_sha256": hashlib.sha256(manifest_bytes).hexdigest(),
|
||||
}
|
||||
|
||||
with pytest.raises(ValueError, match="ровно один"):
|
||||
experiment.verify_capsule(
|
||||
archive_path,
|
||||
archive_hash,
|
||||
expected_manifest_path=None,
|
||||
)
|
||||
with pytest.raises(ValueError, match="ровно один"):
|
||||
experiment.verify_capsule(
|
||||
archive_path,
|
||||
archive_hash,
|
||||
expected_manifest_path=manifest_path,
|
||||
expected_ryzen_manifest=manifest_value,
|
||||
)
|
||||
|
||||
incomplete_capsule = copy.deepcopy(capsule)
|
||||
incomplete_capsule["files"].pop("data/payload.bin")
|
||||
incomplete_path = tmp_path / "incomplete.zip"
|
||||
@@ -843,6 +1099,44 @@ def test_capsule_verification_checks_hashes_commits_and_safe_paths(tmp_path):
|
||||
)
|
||||
|
||||
|
||||
def test_run_cli_accepts_verified_ryzen_capsule_manifest(
|
||||
tmp_path, capsys, monkeypatch
|
||||
):
|
||||
archive_path, ryzen, intel_manifest_sha256 = _ryzen_capsule_fixture(tmp_path)
|
||||
manifest_path = tmp_path / "ryzen.json"
|
||||
manifest_path.write_text(json.dumps(ryzen), encoding="utf-8")
|
||||
args = SimpleNamespace(
|
||||
manifest=manifest_path,
|
||||
output=None,
|
||||
work_dir=tmp_path / "work",
|
||||
capsule=archive_path,
|
||||
capsule_sha256=experiment.file_sha256(archive_path),
|
||||
validate_only=True,
|
||||
prepare_asr=None,
|
||||
)
|
||||
monkeypatch.setattr(experiment, "environment_snapshot", _environment)
|
||||
|
||||
experiment.run_cli(args, ryzen)
|
||||
|
||||
plan = json.loads(capsys.readouterr().out)
|
||||
assert plan["stage"] == "ryzen"
|
||||
assert plan["capsule"]["manifest_sha256"] == intel_manifest_sha256
|
||||
assert plan["capsule"]["file_count"] == 14
|
||||
|
||||
|
||||
def test_verify_capsule_rejects_unlinked_ryzen_manifest(tmp_path):
|
||||
archive_path, ryzen, _manifest_sha256 = _ryzen_capsule_fixture(tmp_path)
|
||||
ryzen["artifacts"][0]["sha256"] = "7" * 64
|
||||
|
||||
with pytest.raises(ValueError, match="закрепленные входы"):
|
||||
experiment.verify_capsule(
|
||||
archive_path,
|
||||
experiment.file_sha256(archive_path),
|
||||
expected_manifest_path=None,
|
||||
expected_ryzen_manifest=ryzen,
|
||||
)
|
||||
|
||||
|
||||
def test_capsule_binds_candidate_result_evidence_to_file_index(tmp_path):
|
||||
input_bytes = b"input"
|
||||
input_hash = hashlib.sha256(input_bytes).hexdigest()
|
||||
|
||||
+407
-873
File diff suppressed because it is too large.
Load diff
+34
-74
@@ -1,10 +1,8 @@
|
||||
from pathlib import Path
|
||||
from unittest.mock import patch
|
||||
|
||||
import pytest
|
||||
|
||||
from local_transcriber.config import (
|
||||
apply_device_defaults,
|
||||
find_config_file,
|
||||
load_config,
|
||||
resolve_defaults,
|
||||
@@ -41,6 +39,23 @@ def test_load_config_valid(tmp_path):
|
||||
assert result == {"model": "small", "language": "ru"}
|
||||
|
||||
|
||||
@pytest.mark.parametrize("value", [True, False])
|
||||
def test_load_config_accepts_diarize_boolean(tmp_path, value):
|
||||
config = tmp_path / "config.toml"
|
||||
config.write_text(f"diarize = {str(value).lower()}\n")
|
||||
|
||||
assert load_config(config) == {"diarize": value}
|
||||
|
||||
|
||||
@pytest.mark.parametrize("toml_value", ['"true"', "1"])
|
||||
def test_load_config_rejects_non_boolean_diarize(tmp_path, toml_value):
|
||||
config = tmp_path / "config.toml"
|
||||
config.write_text(f"diarize = {toml_value}\n")
|
||||
|
||||
with pytest.raises(ValueError, match="должно быть логическим"):
|
||||
load_config(config)
|
||||
|
||||
|
||||
def test_load_config_malformed(tmp_path):
|
||||
config = tmp_path / "config.toml"
|
||||
config.write_text("this is not valid toml [[[")
|
||||
@@ -91,64 +106,33 @@ def test_resolve_defaults_config_wins():
|
||||
assert result["model"] == "tiny"
|
||||
|
||||
|
||||
def test_resolve_defaults_hardcoded_fallback():
|
||||
def test_resolve_defaults_leaves_device_aware_keys_empty():
|
||||
result = resolve_defaults(
|
||||
{"model": None, "language": None, "device": None, "compute_type": None}, {}
|
||||
)
|
||||
assert result == {
|
||||
"model": "medium",
|
||||
"model": None,
|
||||
"language": "ru",
|
||||
"device": "auto",
|
||||
"compute_type": "float32",
|
||||
"compute_type": None,
|
||||
"diarize": False,
|
||||
}
|
||||
|
||||
|
||||
def test_apply_device_defaults_cuda():
|
||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
result = apply_device_defaults(defaults, "cuda", cli, {})
|
||||
assert result["model"] == "medium"
|
||||
assert result["compute_type"] == "float16"
|
||||
@pytest.mark.parametrize(
|
||||
("cli_value", "config_value", "expected"),
|
||||
[
|
||||
(None, True, True),
|
||||
(None, False, False),
|
||||
(True, False, True),
|
||||
(False, True, False),
|
||||
],
|
||||
)
|
||||
def test_resolve_defaults_diarize_priority(cli_value, config_value, expected):
|
||||
cli = {"diarize": cli_value}
|
||||
config = {"diarize": config_value}
|
||||
|
||||
|
||||
def test_apply_device_defaults_cpu():
|
||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
result = apply_device_defaults(defaults, "cpu", cli, {})
|
||||
assert result["model"] == "medium"
|
||||
assert result["compute_type"] == "float32"
|
||||
|
||||
|
||||
def test_apply_device_defaults_onnx_uses_readable_model():
|
||||
defaults = {
|
||||
"model": "medium",
|
||||
"language": "ru",
|
||||
"device": "auto",
|
||||
"compute_type": "float32",
|
||||
}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
|
||||
result = apply_device_defaults(defaults, "onnx", cli, {})
|
||||
|
||||
assert result["model"] == "gigaam-v3-e2e-rnnt"
|
||||
assert result["compute_type"] == "int8"
|
||||
|
||||
|
||||
def test_apply_device_defaults_cli_overrides():
|
||||
defaults = {"model": "large-v3", "language": "ru", "device": "auto", "compute_type": "int8"}
|
||||
cli = {"model": "large-v3", "language": None, "device": None, "compute_type": "int8"}
|
||||
result = apply_device_defaults(defaults, "cuda", cli, {})
|
||||
assert result["model"] == "large-v3"
|
||||
assert result["compute_type"] == "int8"
|
||||
|
||||
|
||||
def test_apply_device_defaults_config_overrides():
|
||||
defaults = {"model": "small", "language": "ru", "device": "auto", "compute_type": "int8"}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
config = {"model": "small", "compute_type": "int8"}
|
||||
result = apply_device_defaults(defaults, "cuda", cli, config)
|
||||
assert result["model"] == "small"
|
||||
assert result["compute_type"] == "int8"
|
||||
assert resolve_defaults(cli, config)["diarize"] is expected
|
||||
|
||||
|
||||
def test_load_config_openvino_device(tmp_path):
|
||||
@@ -170,27 +154,3 @@ def test_load_config_openvino_cpu_device(tmp_path):
|
||||
config.write_text('device = "openvino-cpu"\n')
|
||||
result = load_config(config)
|
||||
assert result == {"device": "openvino-cpu"}
|
||||
|
||||
|
||||
def test_apply_device_defaults_openvino():
|
||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
result = apply_device_defaults(defaults, "openvino", cli, {})
|
||||
assert result["model"] == "medium"
|
||||
assert result["compute_type"] == "int8"
|
||||
|
||||
|
||||
def test_apply_device_defaults_openvino_gpu():
|
||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
result = apply_device_defaults(defaults, "openvino-gpu", cli, {})
|
||||
assert result["model"] == "medium"
|
||||
assert result["compute_type"] == "int8"
|
||||
|
||||
|
||||
def test_apply_device_defaults_openvino_cpu():
|
||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
||||
result = apply_device_defaults(defaults, "openvino-cpu", cli, {})
|
||||
assert result["model"] == "medium"
|
||||
assert result["compute_type"] == "int8"
|
||||
@@ -48,12 +48,73 @@ def test_ensure_cublas_loads_library(monkeypatch, tmp_path):
|
||||
assert calls[0][1] == ctypes.RTLD_GLOBAL
|
||||
|
||||
|
||||
def test_ensure_cublas_skips_non_linux(monkeypatch):
|
||||
"""На не-Linux платформах -- no-op."""
|
||||
monkeypatch.setattr(sys, "platform", "win32")
|
||||
def test_ensure_cublas_skips_macos(monkeypatch):
|
||||
"""На macOS bootstrap не загружает CUDA."""
|
||||
monkeypatch.setattr(sys, "platform", "darwin")
|
||||
ensure_cublas_loadable() # не должно бросать исключений
|
||||
|
||||
|
||||
def test_windows_optional_package_absent(monkeypatch):
|
||||
"""Windows работает без extra и не меняет поиск DLL."""
|
||||
monkeypatch.setattr(sys, "platform", "win32")
|
||||
monkeypatch.setitem(sys.modules, "nvidia.cublas", None)
|
||||
ensure_cublas_loadable()
|
||||
|
||||
|
||||
@pytest.mark.parametrize("broken", [False, True])
|
||||
def test_windows_preloads_dlls_and_keeps_handles(monkeypatch, tmp_path, broken):
|
||||
"""DLL загружаются по порядку один раз, ошибки не скрываются."""
|
||||
from local_transcriber import _cuda_bootstrap as bootstrap
|
||||
|
||||
bin_dir = tmp_path / "bin"
|
||||
bin_dir.mkdir()
|
||||
nvidia = types.ModuleType("nvidia")
|
||||
nvidia.__path__ = []
|
||||
cublas = types.ModuleType("nvidia.cublas")
|
||||
cublas.__path__ = [str(tmp_path)]
|
||||
nvidia.cublas = cublas
|
||||
monkeypatch.setitem(sys.modules, "nvidia", nvidia)
|
||||
monkeypatch.setitem(sys.modules, "nvidia.cublas", cublas)
|
||||
monkeypatch.setattr(sys, "platform", "win32")
|
||||
monkeypatch.setattr(bootstrap, "_dll_directories", {})
|
||||
monkeypatch.setattr(bootstrap, "_dll_libraries", {})
|
||||
calls = []
|
||||
directory_handle = object()
|
||||
library_handle = object()
|
||||
failure = OSError("cublas64_12.dll: dependency not found")
|
||||
|
||||
def add_directory(path):
|
||||
calls.append(("directory", path))
|
||||
return directory_handle
|
||||
|
||||
def load_library(path):
|
||||
calls.append(("load", path))
|
||||
if broken:
|
||||
raise failure
|
||||
return library_handle
|
||||
|
||||
monkeypatch.setattr(os, "add_dll_directory", add_directory, raising=False)
|
||||
monkeypatch.setattr(ctypes, "WinDLL", load_library, raising=False)
|
||||
original_path = os.environ.get("PATH")
|
||||
|
||||
if broken:
|
||||
with pytest.raises(OSError) as caught:
|
||||
ensure_cublas_loadable()
|
||||
assert caught.value is failure
|
||||
assert bootstrap._dll_libraries == {}
|
||||
else:
|
||||
ensure_cublas_loadable()
|
||||
ensure_cublas_loadable()
|
||||
assert calls == [
|
||||
("directory", str(bin_dir)),
|
||||
("load", str(bin_dir / "cublasLt64_12.dll")),
|
||||
("load", str(bin_dir / "cublas64_12.dll")),
|
||||
]
|
||||
assert list(bootstrap._dll_libraries.values()) == [library_handle] * 2
|
||||
assert bootstrap._dll_directories[str(bin_dir)] is directory_handle
|
||||
assert os.environ.get("PATH") == original_path
|
||||
|
||||
|
||||
def _nvidia_cublas_installed() -> bool:
|
||||
"""Проверяет, что pip-пакет nvidia-cublas-cu12 установлен."""
|
||||
try:
|
||||
|
||||
+78
-3
@@ -1,6 +1,7 @@
|
||||
"""Tests for onnx-asr backend."""
|
||||
|
||||
import warnings
|
||||
from unittest.mock import MagicMock
|
||||
|
||||
import pytest
|
||||
|
||||
@@ -64,12 +65,12 @@ class TestEnsureModelAvailable:
|
||||
def with_timestamps(self):
|
||||
return self
|
||||
|
||||
def fake_load_model(*, model, quantization):
|
||||
def fake_load_model(*, model, quantization, providers):
|
||||
quantizations.append(quantization)
|
||||
return FakeAsrAdapter()
|
||||
|
||||
monkeypatch.setattr("onnx_asr.load_model", fake_load_model)
|
||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model: None)
|
||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: None)
|
||||
|
||||
backend = OnnxAsrBackend(compute_type_explicit=False)
|
||||
model_id = backend.ensure_model_available(
|
||||
@@ -87,6 +88,56 @@ class TestEnsureModelAvailable:
|
||||
|
||||
|
||||
class TestCreateModel:
|
||||
def test_cpu_provider_is_explicit_for_asr_and_vad(self, monkeypatch):
|
||||
"""Доступность CoreML/CUDA не меняет исполнение ASR и VAD."""
|
||||
monkeypatch.setattr(
|
||||
"onnxruntime.get_available_providers",
|
||||
lambda: ["CoreMLExecutionProvider", "CUDAExecutionProvider", "CPUExecutionProvider"],
|
||||
)
|
||||
load_asr = MagicMock()
|
||||
load_vad = MagicMock()
|
||||
monkeypatch.setattr("onnx_asr.load_model", load_asr)
|
||||
monkeypatch.setattr("onnx_asr.load_vad", load_vad)
|
||||
|
||||
OnnxAsrBackend().create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
||||
|
||||
load_asr.assert_called_once_with(
|
||||
model="gigaam-v3-e2e-rnnt",
|
||||
quantization="int8",
|
||||
providers=["CPUExecutionProvider"],
|
||||
)
|
||||
load_vad.assert_called_once_with("silero", providers=["CPUExecutionProvider"])
|
||||
|
||||
def test_thread_budget_reaches_asr_and_vad_sessions(self, monkeypatch):
|
||||
"""--threads задаёт intra_op_num_threads обеим сессиям через SessionOptions."""
|
||||
load_asr = MagicMock()
|
||||
load_vad = MagicMock()
|
||||
monkeypatch.setattr("onnx_asr.load_model", load_asr)
|
||||
monkeypatch.setattr("onnx_asr.load_vad", load_vad)
|
||||
|
||||
backend = OnnxAsrBackend()
|
||||
backend.create_model("gigaam-v3-e2e-rnnt", "onnx", "int8", cpu_threads=4)
|
||||
|
||||
asr_options = load_asr.call_args.kwargs["sess_options"]
|
||||
vad_options = load_vad.call_args.kwargs["sess_options"]
|
||||
assert asr_options.intra_op_num_threads == 4
|
||||
assert vad_options.intra_op_num_threads == 4
|
||||
assert backend.runtime_info()["intra_op_threads"] == "4"
|
||||
|
||||
def test_zero_thread_budget_keeps_library_session_defaults(self, monkeypatch):
|
||||
"""0 не передаёт SessionOptions: потоки остаются на усмотрение onnxruntime."""
|
||||
load_asr = MagicMock()
|
||||
load_vad = MagicMock()
|
||||
monkeypatch.setattr("onnx_asr.load_model", load_asr)
|
||||
monkeypatch.setattr("onnx_asr.load_vad", load_vad)
|
||||
|
||||
backend = OnnxAsrBackend()
|
||||
backend.create_model("gigaam-v3-e2e-rnnt", "onnx", "int8", cpu_threads=0)
|
||||
|
||||
assert "sess_options" not in load_asr.call_args.kwargs
|
||||
assert "sess_options" not in load_vad.call_args.kwargs
|
||||
assert backend.runtime_info()["intra_op_threads"] == "по умолчанию"
|
||||
|
||||
def test_wraps_vad_model_with_timestamps(self, monkeypatch):
|
||||
timestamped_model = object()
|
||||
|
||||
@@ -99,7 +150,7 @@ class TestCreateModel:
|
||||
return FakeVadAdapter()
|
||||
|
||||
monkeypatch.setattr("onnx_asr.load_model", lambda **kwargs: FakeAsrAdapter())
|
||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model: object())
|
||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: object())
|
||||
|
||||
model = OnnxAsrBackend().create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
||||
|
||||
@@ -127,6 +178,7 @@ class TestCreateModel:
|
||||
return self
|
||||
|
||||
monkeypatch.setattr("onnx_asr.load_model", fake_load_model)
|
||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: None)
|
||||
|
||||
backend = OnnxAsrBackend()
|
||||
backend.actual_compute_type = "int8"
|
||||
@@ -637,3 +689,26 @@ class TestModelAliases:
|
||||
assert "--device cpu --model medium" in message
|
||||
assert "--device cuda --model large-v3-turbo" not in message
|
||||
assert "--device cpu --model large-v3-turbo" not in message
|
||||
|
||||
|
||||
class TestRuntimeInfo:
|
||||
def test_reports_versions_and_configured_providers(self, monkeypatch):
|
||||
"""Диагностика различает доступные providers и те, что заданы сессиям ASR и VAD."""
|
||||
monkeypatch.setattr(
|
||||
"onnxruntime.get_available_providers",
|
||||
lambda: ["CoreMLExecutionProvider", "CPUExecutionProvider"],
|
||||
)
|
||||
monkeypatch.setattr("onnx_asr.load_model", lambda **kwargs: MagicMock())
|
||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: MagicMock())
|
||||
backend = OnnxAsrBackend()
|
||||
backend.actual_compute_type = "int8"
|
||||
backend.create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
||||
|
||||
info = backend.runtime_info()
|
||||
|
||||
assert info["onnxruntime"]
|
||||
assert info["onnx_asr"]
|
||||
assert info["available_providers"] == "CoreMLExecutionProvider, CPUExecutionProvider"
|
||||
assert info["asr_providers"] == "CPUExecutionProvider"
|
||||
assert info["vad_providers"] == "CPUExecutionProvider"
|
||||
assert info["quantization"] == "int8"
|
||||
@@ -222,6 +222,7 @@ def test_load_speaker_diarizer_keeps_corrupt_cache_when_download_is_invalid(
|
||||
|
||||
with (
|
||||
patch("huggingface_hub.cached_assets_path", return_value=tmp_path),
|
||||
patch.dict(sys.modules, {"sherpa_onnx": SimpleNamespace()}),
|
||||
patch("httpx.stream", return_value=FakeResponse()),
|
||||
pytest.raises(RuntimeError, match="Контрольная сумма"),
|
||||
):
|
||||
|
||||
File diff suppressed because it is too large.
Load diff
+471
-294
@@ -4,11 +4,12 @@ from unittest.mock import MagicMock, patch
|
||||
import pytest
|
||||
|
||||
from local_transcriber.transcriber import (
|
||||
ExecutionRequest,
|
||||
Segment,
|
||||
Transcriber,
|
||||
TranscribeResult,
|
||||
_transcribe_file,
|
||||
cuda_error_hint,
|
||||
ensure_model_available,
|
||||
load_model,
|
||||
transcribe,
|
||||
)
|
||||
from local_transcriber.types import WordTimestampsUnavailableError
|
||||
@@ -16,6 +17,21 @@ from local_transcriber.types import WordTimestampsUnavailableError
|
||||
# === Helpers ===
|
||||
|
||||
|
||||
@pytest.mark.parametrize(
|
||||
"error",
|
||||
[RuntimeError("out of memory"), RuntimeError("CUDA unknown error")],
|
||||
)
|
||||
def test_unknown_error_does_not_suggest_cuda_installation(error):
|
||||
"""CPU OOM и неизвестная причина не получают совет по установке CUDA."""
|
||||
assert cuda_error_hint(error) is None
|
||||
|
||||
|
||||
def test_windows_loader_error_suggests_extra():
|
||||
"""OSError загрузчика DLL распознаётся без обёртки RuntimeError."""
|
||||
error = OSError("[WinError 126] Could not find module 'cublas64_12.dll'")
|
||||
assert "uv sync --extra cuda" in cuda_error_hint(error)
|
||||
|
||||
|
||||
def _make_result(
|
||||
count: int = 2,
|
||||
language: str = "ru",
|
||||
@@ -216,7 +232,7 @@ def test_transcribe_reports_status_transitions(mock_get_backend):
|
||||
on_status=statuses.append,
|
||||
)
|
||||
|
||||
# load_model reports init status, _transcribe_file reports transcribe status
|
||||
# Статусы подготовки и распознавания идут через один callback
|
||||
assert any("Инициализирую модель" in s for s in statuses)
|
||||
assert any("Транскрибирую" in s for s in statuses)
|
||||
|
||||
@@ -279,101 +295,6 @@ def test_transcribe_strict_cuda_error_during_transcription(mock_get_backend):
|
||||
)
|
||||
|
||||
|
||||
# === load_model() tests ===
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_cuda_fallback(mock_get_backend):
|
||||
cuda_backend = _make_backend(create_model_error=RuntimeError("CUDA out of memory"))
|
||||
cpu_model = MagicMock()
|
||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return cuda_backend if device == "cuda" else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
model, actual_device, backend, model_path = load_model("tiny", "cuda", "int8")
|
||||
|
||||
assert actual_device == "cpu"
|
||||
assert model is cpu_model
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_strict_raises(mock_get_backend):
|
||||
backend = _make_backend(create_model_error=RuntimeError("CUDA out of memory"))
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
with pytest.raises(RuntimeError, match="CUDA out of memory"):
|
||||
load_model("tiny", "cuda", "int8", strict_device=True)
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_returns_backend_and_path(mock_get_backend):
|
||||
backend = _make_backend(model_path="/mock/model/path")
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
model, actual_device, returned_backend, model_path = load_model(
|
||||
"tiny", "cpu", "int8"
|
||||
)
|
||||
|
||||
assert returned_backend is backend
|
||||
assert model_path == "/mock/model/path"
|
||||
assert actual_device == "cpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_passes_cpu_threads_to_backend(mock_get_backend):
|
||||
backend = _make_backend(model_path="/mock/model/path")
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
load_model("tiny", "cpu", "int8", cpu_threads=8)
|
||||
|
||||
assert backend.create_model.call_args.kwargs["cpu_threads"] == 8
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_fallback_preserves_cpu_threads(mock_get_backend):
|
||||
cuda_backend = _make_backend(create_model_error=RuntimeError("CUDA out of memory"))
|
||||
cpu_model = MagicMock()
|
||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return cuda_backend if device == "cuda" else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
load_model("tiny", "cuda", "int8", cpu_threads=6)
|
||||
|
||||
assert cuda_backend.create_model.call_args.kwargs["cpu_threads"] == 6
|
||||
assert cpu_backend.create_model.call_args.kwargs["cpu_threads"] == 6
|
||||
|
||||
|
||||
# === _transcribe_file() tests ===
|
||||
|
||||
|
||||
def test__transcribe_file_basic():
|
||||
result_data = _make_result(count=2)
|
||||
backend = _make_backend(transcribe_result=result_data)
|
||||
|
||||
tfr = _transcribe_file(
|
||||
model=MagicMock(),
|
||||
actual_device="cpu",
|
||||
backend=backend,
|
||||
model_path="/mock/model",
|
||||
file_path=Path("test.mp3"),
|
||||
model_name="tiny",
|
||||
compute_type="int8",
|
||||
)
|
||||
|
||||
assert len(tfr.result.segments) == 2
|
||||
assert tfr.actual_device == "cpu"
|
||||
assert tfr.backend is backend
|
||||
assert tfr.model_path == "/mock/model"
|
||||
|
||||
|
||||
# === ensure_model_available() tests (через FasterWhisperBackend) ===
|
||||
|
||||
|
||||
@@ -476,202 +397,6 @@ def test_ensure_model_available_rejects_incomplete_local_directory(tmp_path):
|
||||
ensure_model_available(str(model_dir))
|
||||
|
||||
|
||||
# === Cross-backend fallback (openvino → cpu) ===
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_openvino_gpu_fallback_to_cpu(mock_get_backend):
|
||||
"""OpenVINO GPU ошибка при init → fallback на CPU (FasterWhisper)."""
|
||||
ov_backend = _make_backend(
|
||||
create_model_error=RuntimeError("OpenVINO model load failed"),
|
||||
)
|
||||
cpu_model = MagicMock()
|
||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return ov_backend if device == "openvino-gpu" else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
model, actual_device, backend, model_path = load_model(
|
||||
"medium",
|
||||
"openvino-gpu",
|
||||
"fp16",
|
||||
)
|
||||
|
||||
assert actual_device == "cpu"
|
||||
assert model is cpu_model
|
||||
assert backend is cpu_backend
|
||||
assert model_path == "/mock/cpu/model"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_openvino_cpu_fallback_to_cpu(mock_get_backend):
|
||||
"""OpenVINO CPU ошибка при init → fallback на CPU (FasterWhisper)."""
|
||||
ov_backend = _make_backend(
|
||||
create_model_error=RuntimeError("OpenVINO model load failed"),
|
||||
)
|
||||
cpu_model = MagicMock()
|
||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return ov_backend if device == "openvino-cpu" else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
model, actual_device, backend, model_path = load_model(
|
||||
"medium",
|
||||
"openvino-cpu",
|
||||
"int8",
|
||||
)
|
||||
|
||||
assert actual_device == "cpu"
|
||||
assert model is cpu_model
|
||||
assert backend is cpu_backend
|
||||
assert model_path == "/mock/cpu/model"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_transcribe_file_openvino_gpu_midstream_fallback(mock_get_backend):
|
||||
"""OpenVINO GPU ошибка при транскрипции → fallback на CPU."""
|
||||
ov_backend = _make_backend(
|
||||
transcribe_error=RuntimeError("OpenVINO inference error"),
|
||||
)
|
||||
cpu_backend = _make_backend(
|
||||
transcribe_result=_make_result(count=2, device_used="cpu"),
|
||||
model_path="/mock/cpu/model",
|
||||
)
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return ov_backend if device.startswith("openvino") else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
tfr = _transcribe_file(
|
||||
model=MagicMock(),
|
||||
actual_device="openvino-gpu",
|
||||
backend=ov_backend,
|
||||
model_path="/mock/ov/model",
|
||||
file_path=Path("test.mp3"),
|
||||
model_name="medium",
|
||||
compute_type="fp16",
|
||||
)
|
||||
|
||||
assert tfr.actual_device == "cpu"
|
||||
assert tfr.backend is cpu_backend
|
||||
assert tfr.model_path == "/mock/cpu/model"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_transcribe_file_does_not_fallback_for_missing_word_timestamps(
|
||||
mock_get_backend,
|
||||
):
|
||||
ov_backend = _make_backend(
|
||||
transcribe_error=WordTimestampsUnavailableError("нет таймкодов"),
|
||||
)
|
||||
|
||||
with pytest.raises(WordTimestampsUnavailableError, match="нет таймкодов"):
|
||||
_transcribe_file(
|
||||
model=MagicMock(),
|
||||
actual_device="openvino-gpu",
|
||||
backend=ov_backend,
|
||||
model_path="/mock/ov/model",
|
||||
file_path=Path("test.mp3"),
|
||||
model_name="medium",
|
||||
compute_type="fp16",
|
||||
)
|
||||
|
||||
mock_get_backend.assert_not_called()
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_transcribe_file_midstream_fallback_preserves_cpu_threads(mock_get_backend):
|
||||
ov_backend = _make_backend(
|
||||
transcribe_error=RuntimeError("OpenVINO inference error"),
|
||||
)
|
||||
cpu_backend = _make_backend(
|
||||
transcribe_result=_make_result(count=2, device_used="cpu"),
|
||||
model_path="/mock/cpu/model",
|
||||
)
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return ov_backend if device.startswith("openvino") else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
_transcribe_file(
|
||||
model=MagicMock(),
|
||||
actual_device="openvino-gpu",
|
||||
backend=ov_backend,
|
||||
model_path="/mock/ov/model",
|
||||
file_path=Path("test.mp3"),
|
||||
model_name="medium",
|
||||
compute_type="fp16",
|
||||
cpu_threads=6,
|
||||
)
|
||||
|
||||
assert cpu_backend.create_model.call_args.kwargs["cpu_threads"] == 6
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_openvino_gpu_strict_device_no_fallback(mock_get_backend):
|
||||
"""strict_device=True + OpenVINO GPU ошибка → raise."""
|
||||
backend = _make_backend(
|
||||
create_model_error=RuntimeError("OpenVINO model load failed"),
|
||||
)
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
with pytest.raises(RuntimeError, match="OpenVINO"):
|
||||
load_model("medium", "openvino-gpu", "fp16", strict_device=True)
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_openvino_runtime_error_triggers_fallback(mock_get_backend):
|
||||
"""Любой RuntimeError от OpenVINO бэкенда → fallback."""
|
||||
ov_backend = _make_backend(
|
||||
create_model_error=RuntimeError("Exception from src/inference/..."),
|
||||
)
|
||||
cpu_backend = _make_backend(model_path="/mock/cpu/model")
|
||||
|
||||
def backend_for_device(device, **kwargs):
|
||||
return ov_backend if device.startswith("openvino") else cpu_backend
|
||||
|
||||
mock_get_backend.side_effect = backend_for_device
|
||||
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
_, actual_device, _, _ = load_model("medium", "openvino-cpu", "int8")
|
||||
|
||||
assert actual_device == "cpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_resolves_openvino_gpu_device(mock_get_backend):
|
||||
"""load_model обновляет actual_device по backend.actual_ov_device."""
|
||||
backend = _make_backend()
|
||||
backend.actual_ov_device = "GPU"
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
_, actual_device, _, _ = load_model("medium", "openvino-cpu", "int8")
|
||||
|
||||
assert actual_device == "openvino-gpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_load_model_resolves_openvino_cpu_device(mock_get_backend):
|
||||
"""load_model обновляет actual_device по backend.actual_ov_device."""
|
||||
backend = _make_backend()
|
||||
backend.actual_ov_device = "CPU"
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
_, actual_device, _, _ = load_model("medium", "openvino-gpu", "fp16")
|
||||
|
||||
assert actual_device == "openvino-cpu"
|
||||
|
||||
|
||||
def test_ensure_model_available_openvino_default_compute_type():
|
||||
"""ensure_model_available(device='openvino-cpu') без compute_type не падает."""
|
||||
from local_transcriber.backends.openvino import OpenVINOBackend
|
||||
@@ -681,3 +406,455 @@ def test_ensure_model_available_openvino_default_compute_type():
|
||||
repo, ct = backend._resolve_repo("medium", "int8")
|
||||
assert repo == "OpenVINO/whisper-medium-int8-ov"
|
||||
assert ct == "int8"
|
||||
|
||||
|
||||
# === Transcriber: module выполнения ===
|
||||
|
||||
|
||||
def _make_run_backend(**kwargs):
|
||||
"""Fake adapter для external interface: runtime_info возвращает словарь."""
|
||||
backend = _make_backend(**kwargs)
|
||||
backend.runtime_info.return_value = {}
|
||||
backend.engine = "fake-engine"
|
||||
backend.word_timestamps_available = True
|
||||
backend.actual_compute_type = None
|
||||
backend.actual_ov_device = None
|
||||
return backend
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_loads_model_once_for_two_files(mock_get_backend):
|
||||
"""Два файла переиспользуют одну загрузку модели."""
|
||||
backend = _make_run_backend()
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
run = Transcriber(ExecutionRequest(device="cpu", model="tiny", compute_type="int8"))
|
||||
first = run.transcribe(Path("a.mp3"))
|
||||
second = run.transcribe(Path("b.mp3"))
|
||||
|
||||
assert backend.create_model.call_count == 1
|
||||
assert backend.transcribe.call_count == 2
|
||||
assert first.device_used == "cpu"
|
||||
assert second.device_used == "cpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_does_not_load_model_before_first_file(mock_get_backend):
|
||||
"""Создание module без файлов не загружает модель."""
|
||||
mock_get_backend.return_value = _make_run_backend()
|
||||
|
||||
Transcriber(ExecutionRequest(device="cpu", model="tiny", compute_type="int8"))
|
||||
|
||||
mock_get_backend.assert_not_called()
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_auto_resolves_to_onnx_cpu_with_device_defaults(mock_get_backend):
|
||||
"""auto → ONNX CPU и его модель/квантизация по умолчанию; сведения различают запрошенное и выбранное."""
|
||||
backend = _make_run_backend()
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
info = Transcriber(ExecutionRequest()).prepare()
|
||||
|
||||
mock_get_backend.assert_called_once_with("onnx", compute_type_explicit=False)
|
||||
backend.ensure_model_available.assert_called_once_with(
|
||||
"gigaam-v3-e2e-rnnt", "int8", None
|
||||
)
|
||||
assert info.requested_device == "auto"
|
||||
assert info.device == "onnx"
|
||||
assert info.model == "gigaam-v3-e2e-rnnt"
|
||||
assert info.compute_type == "int8"
|
||||
assert info.description == "ONNX (CPU)"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_falls_back_to_cpu_at_load_and_keeps_state_for_next_file(
|
||||
mock_get_backend,
|
||||
):
|
||||
"""Не-strict CUDA-ошибка при загрузке → CPU; следующий файл идёт на CPU без перезагрузки."""
|
||||
cuda_backend = _make_run_backend(
|
||||
create_model_error=RuntimeError("CUDA out of memory")
|
||||
)
|
||||
cpu_backend = _make_run_backend()
|
||||
mock_get_backend.side_effect = lambda device, **_: (
|
||||
cuda_backend if device == "cuda" else cpu_backend
|
||||
)
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(
|
||||
device="cuda",
|
||||
model="tiny",
|
||||
compute_type="int8",
|
||||
strict_device=False,
|
||||
cpu_threads=3,
|
||||
)
|
||||
)
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
first = run.transcribe(Path("a.mp3"))
|
||||
second = run.transcribe(Path("b.mp3"))
|
||||
|
||||
assert first.device_used == "cpu"
|
||||
assert second.device_used == "cpu"
|
||||
assert cpu_backend.create_model.call_count == 1
|
||||
assert cpu_backend.create_model.call_args.kwargs["cpu_threads"] == 3
|
||||
assert run.execution.resolved_device == "cuda"
|
||||
assert run.execution.device == "cpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_strict_device_raises_without_fallback(mock_get_backend):
|
||||
"""Явный device (strict по умолчанию) не подменяется другим исполнением."""
|
||||
mock_get_backend.return_value = _make_run_backend(
|
||||
create_model_error=RuntimeError("CUDA driver version is insufficient")
|
||||
)
|
||||
|
||||
with pytest.raises(RuntimeError, match="driver version"):
|
||||
Transcriber(
|
||||
ExecutionRequest(device="cuda", model="tiny", compute_type="int8")
|
||||
).prepare()
|
||||
|
||||
assert mock_get_backend.call_count == 1
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_midstream_fallback_reloads_once_and_continues_batch(mock_get_backend):
|
||||
"""CUDA-ошибка во время распознавания → повтор файла на CPU; батч продолжается на CPU."""
|
||||
cuda_backend = _make_run_backend(
|
||||
transcribe_error=RuntimeError("CUBLAS_STATUS_ALLOC_FAILED")
|
||||
)
|
||||
cpu_backend = _make_run_backend()
|
||||
mock_get_backend.side_effect = lambda device, **_: (
|
||||
cuda_backend if device == "cuda" else cpu_backend
|
||||
)
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(
|
||||
device="cuda", model="tiny", compute_type="int8", strict_device=False
|
||||
)
|
||||
)
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU и повтор"):
|
||||
first = run.transcribe(Path("a.mp3"))
|
||||
second = run.transcribe(Path("b.mp3"))
|
||||
|
||||
assert first.device_used == "cpu"
|
||||
assert second.device_used == "cpu"
|
||||
assert cpu_backend.create_model.call_count == 1
|
||||
assert cpu_backend.transcribe.call_count == 2
|
||||
assert run.execution.device == "cpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_ordinary_file_error_does_not_change_state(mock_get_backend):
|
||||
"""Ошибка файла (не движка) пробрасывается, модель и исполнение остаются прежними."""
|
||||
backend = _make_run_backend()
|
||||
backend.transcribe.side_effect = [
|
||||
ValueError("Не удалось декодировать"),
|
||||
_make_result(),
|
||||
]
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(
|
||||
device="cuda", model="tiny", compute_type="int8", strict_device=False
|
||||
)
|
||||
)
|
||||
with pytest.raises(ValueError, match="декодировать"):
|
||||
run.transcribe(Path("bad.mp3"))
|
||||
result = run.transcribe(Path("good.mp3"))
|
||||
|
||||
assert result.device_used == "cuda"
|
||||
assert backend.create_model.call_count == 1
|
||||
assert mock_get_backend.call_count == 1
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_word_timestamps_error_is_not_a_fallback_reason(mock_get_backend):
|
||||
"""Нарушение пословного контракта не считается ошибкой движка."""
|
||||
mock_get_backend.return_value = _make_run_backend(
|
||||
transcribe_error=WordTimestampsUnavailableError("нет слов")
|
||||
)
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(
|
||||
device="cuda", model="tiny", compute_type="int8", strict_device=False
|
||||
)
|
||||
)
|
||||
with pytest.raises(WordTimestampsUnavailableError):
|
||||
run.transcribe(Path("a.mp3"))
|
||||
|
||||
assert mock_get_backend.call_count == 1
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_requires_word_timestamps_before_first_file(mock_get_backend):
|
||||
"""Требование пословного контракта проверяется при подготовке, ASR не запускается."""
|
||||
backend = _make_run_backend()
|
||||
backend.word_timestamps_available = False
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(
|
||||
device="onnx", model="some/raw-model", require_word_timestamps=True
|
||||
)
|
||||
)
|
||||
with pytest.raises(ValueError, match="пословные таймкоды"):
|
||||
run.transcribe(Path("a.mp3"))
|
||||
|
||||
backend.transcribe.assert_not_called()
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_reports_actual_openvino_device(mock_get_backend):
|
||||
"""openvino-gpu, выбранный до загрузки, уточняется по фактическому устройству OpenVINO."""
|
||||
backend = _make_run_backend()
|
||||
backend.actual_ov_device = "CPU"
|
||||
backend.actual_compute_type = "int8"
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
with patch(
|
||||
"local_transcriber.transcriber.detect_device", return_value="openvino-gpu"
|
||||
):
|
||||
info = Transcriber(
|
||||
ExecutionRequest(device="openvino", model="medium")
|
||||
).prepare()
|
||||
|
||||
assert info.requested_device == "openvino"
|
||||
assert info.resolved_device == "openvino-gpu"
|
||||
assert info.device == "openvino-cpu"
|
||||
assert info.compute_type == "int8"
|
||||
assert info.description == "OpenVINO (CPU)"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_gpu_name", return_value="RTX 3060")
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_exposes_runtime_and_gpu_name_from_module_data(mock_get_backend, _gpu):
|
||||
"""Сведения о runtime берутся из adapter'а, имя GPU — из драйвера, потоки — из запроса."""
|
||||
backend = _make_run_backend()
|
||||
backend.runtime_info.return_value = {"ctranslate2": "4.5.0"}
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
info = Transcriber(
|
||||
ExecutionRequest(
|
||||
device="cuda", model="tiny", compute_type="float16", cpu_threads=4
|
||||
)
|
||||
).prepare()
|
||||
|
||||
assert info.description == "CUDA (RTX 3060)"
|
||||
assert info.runtime == {"ctranslate2": "4.5.0"}
|
||||
assert info.cpu_threads == 4
|
||||
backend.create_model.assert_called_once_with(
|
||||
"/mock/model", "cuda", "float16", cpu_threads=4
|
||||
)
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_passes_auto_language_as_none(mock_get_backend):
|
||||
backend = _make_run_backend()
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
Transcriber(
|
||||
ExecutionRequest(device="cpu", model="tiny", language="auto")
|
||||
).transcribe(Path("a.mp3"))
|
||||
|
||||
assert backend.transcribe.call_args[0][2] is None
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_public_transcribe_uses_the_same_execution_module(mock_get_backend):
|
||||
"""transcribe() без параметров идёт тем же путём, что CLI по умолчанию: ONNX CPU."""
|
||||
backend = _make_run_backend(transcribe_result=_make_result(count=1))
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
result = transcribe(Path("a.mp3"))
|
||||
|
||||
mock_get_backend.assert_called_once_with("onnx", compute_type_explicit=False)
|
||||
backend.ensure_model_available.assert_called_once_with(
|
||||
"gigaam-v3-e2e-rnnt", "int8", None
|
||||
)
|
||||
assert result.device_used == "onnx"
|
||||
assert len(result.segments) == 1
|
||||
|
||||
|
||||
@pytest.mark.parametrize(
|
||||
("device", "ov_device", "gpu_name", "intel_name", "expected"),
|
||||
[
|
||||
("cpu", None, None, None, "CPU"),
|
||||
("onnx", None, "RTX 3060", None, "ONNX (CPU)"),
|
||||
("cuda", None, "RTX 3060", None, "CUDA (RTX 3060)"),
|
||||
("cuda", None, None, None, "CUDA (Unknown GPU)"),
|
||||
("openvino-gpu", "GPU", None, "Intel Arc 140T", "OpenVINO (Intel Arc 140T)"),
|
||||
("openvino-gpu", "GPU", None, None, "OpenVINO (Intel GPU)"),
|
||||
("openvino-cpu", "CPU", None, None, "OpenVINO (CPU)"),
|
||||
],
|
||||
)
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_description_names_hardware_only_from_driver_data(
|
||||
mock_get_backend, device, ov_device, gpu_name, intel_name, expected
|
||||
):
|
||||
"""Строка исполнения для шапки: ONNX не выдаётся за CPU faster-whisper, GPU — по драйверу."""
|
||||
backend = _make_run_backend()
|
||||
backend.actual_ov_device = ov_device
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
with (
|
||||
patch("local_transcriber.transcriber.get_gpu_name", return_value=gpu_name),
|
||||
patch("local_transcriber.transcriber.get_intel_gpu_name", return_value=intel_name),
|
||||
):
|
||||
info = Transcriber(ExecutionRequest(device=device, model="m")).prepare()
|
||||
|
||||
assert info.description == expected
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_openvino_runtime_error_falls_back_when_not_strict(mock_get_backend):
|
||||
"""Любой RuntimeError OpenVINO считается ошибкой движка: не-strict запуск уходит на CPU."""
|
||||
ov_backend = _make_run_backend(
|
||||
create_model_error=RuntimeError("Exception from src/inference/src/core.cpp")
|
||||
)
|
||||
cpu_backend = _make_run_backend()
|
||||
mock_get_backend.side_effect = lambda device, **_: (
|
||||
ov_backend if device.startswith("openvino") else cpu_backend
|
||||
)
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(device="openvino-gpu", model="medium", strict_device=False)
|
||||
)
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
result = run.transcribe(Path("a.mp3"))
|
||||
|
||||
assert result.device_used == "cpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_openvino_strict_raises_without_fallback(mock_get_backend):
|
||||
mock_get_backend.return_value = _make_run_backend(
|
||||
create_model_error=RuntimeError("GPU plugin failed")
|
||||
)
|
||||
|
||||
with pytest.raises(RuntimeError, match="GPU plugin"):
|
||||
Transcriber(ExecutionRequest(device="openvino-gpu", model="medium")).prepare()
|
||||
|
||||
assert mock_get_backend.call_count == 1
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_reports_openvino_gpu_chosen_for_cpu_request(mock_get_backend):
|
||||
"""Фактическое устройство OpenVINO важнее запрошенного и в обратную сторону."""
|
||||
backend = _make_run_backend()
|
||||
backend.actual_ov_device = "GPU"
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
info = Transcriber(ExecutionRequest(device="openvino-cpu", model="medium")).prepare()
|
||||
|
||||
assert info.resolved_device == "openvino-cpu"
|
||||
assert info.device == "openvino-gpu"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_fallback_rederives_implicit_compute_type_for_cpu(mock_get_backend):
|
||||
"""Неявный compute_type следует за фактическим устройством: CPU не получает float16."""
|
||||
cuda_backend = _make_run_backend(create_model_error=RuntimeError("CUDA error"))
|
||||
cpu_backend = _make_run_backend()
|
||||
mock_get_backend.side_effect = lambda device, **_: (
|
||||
cuda_backend if device == "cuda" else cpu_backend
|
||||
)
|
||||
|
||||
run = Transcriber(ExecutionRequest(device="cuda", strict_device=False))
|
||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||
info = run.prepare()
|
||||
|
||||
cuda_backend.ensure_model_available.assert_called_once_with("medium", "float16", None)
|
||||
cpu_backend.ensure_model_available.assert_called_once_with("medium", "float32", None)
|
||||
assert info.compute_type == "float32"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_fallback_keeps_explicit_compute_type(mock_get_backend):
|
||||
cuda_backend = _make_run_backend(create_model_error=RuntimeError("CUDA error"))
|
||||
cpu_backend = _make_run_backend()
|
||||
mock_get_backend.side_effect = lambda device, **_: (
|
||||
cuda_backend if device == "cuda" else cpu_backend
|
||||
)
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(device="cuda", compute_type="int8", strict_device=False)
|
||||
)
|
||||
with pytest.warns(UserWarning):
|
||||
run.prepare()
|
||||
|
||||
cpu_backend.ensure_model_available.assert_called_once_with("medium", "int8", None)
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_failed_capability_check_does_not_mark_module_prepared(mock_get_backend):
|
||||
"""После отказа по пословному контракту повторный вызов не запускает ASR."""
|
||||
backend = _make_run_backend()
|
||||
backend.word_timestamps_available = False
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
run = Transcriber(
|
||||
ExecutionRequest(device="onnx", model="some/raw-model", require_word_timestamps=True)
|
||||
)
|
||||
with pytest.raises(ValueError, match="пословные таймкоды"):
|
||||
run.prepare()
|
||||
with pytest.raises(ValueError, match="пословные таймкоды"):
|
||||
run.transcribe(Path("a.mp3"))
|
||||
|
||||
backend.transcribe.assert_not_called()
|
||||
|
||||
|
||||
@pytest.mark.parametrize(
|
||||
("device", "model", "compute_type"),
|
||||
[
|
||||
("cpu", "medium", "float32"),
|
||||
("cuda", "medium", "float16"),
|
||||
("openvino-cpu", "medium", "int8"),
|
||||
("openvino-gpu", "medium", "int8"),
|
||||
("onnx", "gigaam-v3-e2e-rnnt", "int8"),
|
||||
],
|
||||
)
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_applies_device_defaults_when_request_leaves_them_empty(
|
||||
mock_get_backend, device, model, compute_type
|
||||
):
|
||||
backend = _make_run_backend()
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
Transcriber(ExecutionRequest(device=device)).prepare()
|
||||
|
||||
mock_get_backend.assert_called_once_with(device, compute_type_explicit=False)
|
||||
backend.ensure_model_available.assert_called_once_with(model, compute_type, None)
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_explicit_values_override_device_defaults(mock_get_backend):
|
||||
backend = _make_run_backend()
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
Transcriber(ExecutionRequest(device="cuda", model="large-v3", compute_type="int8")).prepare()
|
||||
|
||||
mock_get_backend.assert_called_once_with("cuda", compute_type_explicit=True)
|
||||
backend.ensure_model_available.assert_called_once_with("large-v3", "int8", None)
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_engine_comes_from_adapter(mock_get_backend):
|
||||
backend = _make_run_backend()
|
||||
backend.engine = "openvino"
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
info = Transcriber(ExecutionRequest(device="openvino-cpu", model="medium")).prepare()
|
||||
|
||||
assert info.engine == "openvino"
|
||||
|
||||
|
||||
@patch("local_transcriber.transcriber.get_backend")
|
||||
def test_run_diagnostics_failure_does_not_fail_the_run(mock_get_backend):
|
||||
"""Сбой сбора runtime_info не роняет распознавание, а попадает в сведения."""
|
||||
backend = _make_run_backend()
|
||||
backend.runtime_info.side_effect = RuntimeError("plugin enumeration failed")
|
||||
mock_get_backend.return_value = backend
|
||||
|
||||
info = Transcriber(ExecutionRequest(device="cpu", model="tiny")).prepare()
|
||||
|
||||
assert "plugin enumeration failed" in info.runtime["diagnostics"]
|
||||
+5
-5
@@ -66,17 +66,17 @@ def test_detect_device_explicit_passthrough():
|
||||
assert detect_device("openvino-cpu") == "openvino-cpu"
|
||||
|
||||
|
||||
def test_detect_device_auto_cuda_when_nvidia_smi_available():
|
||||
"""При доступном nvidia-smi auto выбирает CUDA."""
|
||||
def test_detect_device_auto_onnx_when_nvidia_smi_available():
|
||||
"""При доступном nvidia-smi auto остаётся на ONNX CPU."""
|
||||
with patch(
|
||||
"local_transcriber.utils.shutil.which", return_value="/usr/bin/nvidia-smi"
|
||||
"shutil.which", return_value="/usr/bin/nvidia-smi"
|
||||
):
|
||||
assert detect_device("auto") == "cuda"
|
||||
assert detect_device("auto") == "onnx"
|
||||
|
||||
|
||||
def test_detect_device_auto_onnx_without_cuda():
|
||||
"""Без CUDA auto выбирает ONNX CPU."""
|
||||
with patch("local_transcriber.utils.shutil.which", return_value=None):
|
||||
with patch("shutil.which", return_value=None):
|
||||
assert detect_device("auto") == "onnx"
|
||||
|
||||
|
||||
|
||||
@@ -288,9 +288,9 @@ name = "local-transcriber"
|
||||
version = "0.1.0"
|
||||
source = { editable = "." }
|
||||
dependencies = [
|
||||
{ name = "ctranslate2" },
|
||||
{ name = "faster-whisper" },
|
||||
{ name = "httpx" },
|
||||
{ name = "nvidia-cublas-cu12", marker = "platform_machine == 'x86_64' and sys_platform == 'linux'" },
|
||||
{ name = "onnx-asr", extra = ["cpu", "hub"] },
|
||||
{ name = "onnxruntime" },
|
||||
{ name = "openvino-genai", marker = "(platform_machine == 'AMD64' and sys_platform != 'darwin') or (platform_machine == 'x86_64' and sys_platform != 'darwin')" },
|
||||
@@ -300,6 +300,11 @@ dependencies = [
|
||||
{ name = "typer" },
|
||||
]
|
||||
|
||||
[package.optional-dependencies]
|
||||
cuda = [
|
||||
{ name = "nvidia-cublas-cu12", marker = "(platform_machine == 'x86_64' and sys_platform == 'linux') or (platform_machine == 'AMD64' and sys_platform == 'win32') or (platform_machine == 'x86_64' and sys_platform == 'win32')" },
|
||||
]
|
||||
|
||||
[package.dev-dependencies]
|
||||
dev = [
|
||||
{ name = "kaldi-native-fbank" },
|
||||
@@ -311,9 +316,10 @@ dev = [
|
||||
|
||||
[package.metadata]
|
||||
requires-dist = [
|
||||
{ name = "ctranslate2", specifier = "==4.8.1" },
|
||||
{ name = "faster-whisper", specifier = ">=1.2.1,<2" },
|
||||
{ name = "httpx", specifier = ">=0.28,<1" },
|
||||
{ name = "nvidia-cublas-cu12", marker = "platform_machine == 'x86_64' and sys_platform == 'linux'", specifier = ">=12.4,<13" },
|
||||
{ name = "nvidia-cublas-cu12", marker = "(platform_machine == 'x86_64' and sys_platform == 'linux' and extra == 'cuda') or (platform_machine == 'AMD64' and sys_platform == 'win32' and extra == 'cuda') or (platform_machine == 'x86_64' and sys_platform == 'win32' and extra == 'cuda')", specifier = "==12.9.1.4" },
|
||||
{ name = "onnx-asr", extras = ["cpu", "hub"], specifier = ">=0.12,<0.13" },
|
||||
{ name = "onnxruntime", specifier = ">=1.28,<2" },
|
||||
{ name = "openvino-genai", marker = "(platform_machine == 'AMD64' and sys_platform != 'darwin') or (platform_machine == 'x86_64' and sys_platform != 'darwin')", specifier = ">=2026.3.0.0,<2026.4" },
|
||||
@@ -322,6 +328,7 @@ requires-dist = [
|
||||
{ name = "socksio", specifier = ">=1.0.0,<2" },
|
||||
{ name = "typer", specifier = ">=0.24.1,<1" },
|
||||
]
|
||||
provides-extras = ["cuda"]
|
||||
|
||||
[package.metadata.requires-dev]
|
||||
dev = [
|
||||
@@ -445,6 +452,7 @@ version = "12.9.1.4"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/77/3c/aa88abe01f3be3d1f8f787d1d33dc83e76fec05945f9a28fbb41cfb99cd5/nvidia_cublas_cu12-12.9.1.4-py3-none-manylinux_2_27_x86_64.whl", hash = "sha256:453611eb21a7c1f2c2156ed9f3a45b691deda0440ec550860290dc901af5b4c2", size = 581242350, upload-time = "2025-06-05T20:04:51.979Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/45/a1/a17fade6567c57452cfc8f967a40d1035bb9301db52f27808167fbb2be2f/nvidia_cublas_cu12-12.9.1.4-py3-none-win_amd64.whl", hash = "sha256:1e5fee10662e6e52bd71dec533fbbd4971bb70a5f24f3bc3793e5c2e9dc640bf", size = 553153899, upload-time = "2025-06-05T20:13:35.556Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
|
||||
Reference in new issue
Block a user