Compare commits
49
Commits
18d1094d10
..
master
| Author | SHA1 | Date | |
|---|---|---|---|
|
|
9b40e2b4c1 | ||
|
|
b315f60746 | ||
|
|
50787c6531 | ||
|
|
328580abfb | ||
|
|
63307fed01 | ||
|
|
6f1064ccc4 | ||
|
|
f7c0ed9a8c | ||
|
|
a8241b1d6b | ||
|
|
0f8ecb5bd3 | ||
|
|
e22b2f1bae | ||
|
|
4dea7f4bc6 | ||
|
|
343a31b35b | ||
|
|
a8b8a8c0c9 | ||
|
|
453b5d9dfa | ||
|
|
99ed5ed92f | ||
|
|
937eafe8db | ||
|
|
2b54f5bc9e | ||
|
|
671ac8e5c9 | ||
|
|
3860f52eb9 | ||
|
|
f3d0293120 | ||
|
|
78960120fd | ||
|
|
b8bb78103a | ||
|
|
4c4a8be07b | ||
|
|
d71aec4ab2 | ||
|
|
0cd105927b | ||
|
|
16e5372f2d | ||
|
|
7d672a7dc8 | ||
|
|
2e30d668ce | ||
|
|
ef61ced2e5 | ||
|
|
5ec9c77dfa | ||
|
|
78f2a8aecc | ||
|
|
e71b2d1668 | ||
|
|
0f67da8acf | ||
|
|
28d0f37b82 | ||
|
|
fa9908af6f | ||
|
|
f59efa51b7 | ||
|
|
cca09aedde | ||
|
|
b2a2d7d7da | ||
|
|
15f88b1de8 | ||
|
|
89475b9b97 | ||
|
|
312153f4bc | ||
|
|
249b970cc9 | ||
|
|
38c99855e2 | ||
|
|
68fda7ee89 | ||
|
|
42f094ccb9 | ||
|
|
6345cb6449 | ||
|
|
0ea4d56c9d | ||
|
|
bd0d7e6736 | ||
|
|
7dc5723742 |
No files matched your search
+1
-1
@@ -7,4 +7,4 @@ dist/
|
|||||||
.codex
|
.codex
|
||||||
.qwen/
|
.qwen/
|
||||||
tmp
|
tmp
|
||||||
.scratch/handoffs/
|
/.scratch/
|
||||||
@@ -5,6 +5,11 @@
|
|||||||
Не часть пакета: они опираются на `sherpa-onnx`, которого нет в зависимостях
|
Не часть пакета: они опираются на `sherpa-onnx`, которого нет в зависимостях
|
||||||
проекта, и живут в `.scratch/`, а не в `src/`.
|
проекта, и живут в `.scratch/`, а не в `src/`.
|
||||||
|
|
||||||
|
Код этого каталога временно закреплен в Git: его используют несколько задач на
|
||||||
|
нескольких компьютерах, пока идет исследование диаризации. Общее правило
|
||||||
|
`/.scratch/` относится к новым локальным материалам; уже отслеживаемые файлы
|
||||||
|
этого стенда продолжают версионироваться.
|
||||||
|
|
||||||
Результаты первого прогона описаны в
|
Результаты первого прогона описаны в
|
||||||
[разведочном замере](../../docs/benchmarks/2026-08-12-diarization-feasibility.md).
|
[разведочном замере](../../docs/benchmarks/2026-08-12-diarization-feasibility.md).
|
||||||
|
|
||||||
|
|||||||
@@ -25,11 +25,12 @@ Package manager is **uv** (not pip). Build backend is hatchling.
|
|||||||
|
|
||||||
```
|
```
|
||||||
CLI (cli.py)
|
CLI (cli.py)
|
||||||
→ config.py cascade: CLI arg → .transcriber.toml → device-aware default → hardcoded
|
→ config.py cascade: CLI arg → .transcriber.toml (model/compute_type stay None for the module to resolve)
|
||||||
→ utils.py detect_device(), validate files, expand globs (Windows workaround)
|
→ utils.py detect_device(), validate files, expand globs (Windows workaround)
|
||||||
→ context_menu.py Windows SendTo: Transcribe.cmd install/uninstall (--install-menu / --uninstall-menu)
|
→ context_menu.py Windows SendTo: Transcribe.cmd install/uninstall (--install-menu / --uninstall-menu)
|
||||||
→ transcriber.py load_model() → get_backend(device) → ensure_model_available → create_model
|
→ transcriber.py Transcriber(ExecutionRequest): resolves auto + device defaults,
|
||||||
_transcribe_file() with mid-stream CUDA→CPU fallback
|
get_backend(device) → ensure_model_available → create_model once per run,
|
||||||
|
transcribe(file) per file; fallback and ExecutionInfo stay inside
|
||||||
→ formatter.py segments → markdown with timestamps, paragraph grouping (>2s pause or >60s)
|
→ formatter.py segments → markdown with timestamps, paragraph grouping (>2s pause or >60s)
|
||||||
```
|
```
|
||||||
|
|
||||||
@@ -47,19 +48,21 @@ Three backends implement the `Backend` Protocol (structural typing, no inheritan
|
|||||||
|
|
||||||
### Key design decisions
|
### Key design decisions
|
||||||
|
|
||||||
- **Two-level fallback**: GPU→CPU at model load time AND mid-stream during transcription (GPU visible via nvidia-smi but insufficient VRAM).
|
- **Execution module** (`Transcriber`): one owner per run for model handle, adapter, actual device and allowed GPU→CPU fallback (load time and mid-stream). Callers get `TranscribeResult` + `ExecutionInfo` (requested vs actual device, engine, model, compute type, threads, `runtime_info()` from the adapter for `--verbose`). Fallback is reachable only with `strict_device=False` (Python API): CLI explicit device is strict, `auto` is ONNX CPU.
|
||||||
- **CUDA bootstrap** (`_cuda_bootstrap.py`): preloads `libcublas.so.12` via `ctypes.CDLL(RTLD_GLOBAL)` before importing ctranslate2, because pip's `nvidia-cublas-cu12` installs to a non-standard path and `LD_LIBRARY_PATH` can't be changed at runtime (glibc caches it).
|
- **CUDA bootstrap** (`_cuda_bootstrap.py`): preloads `libcublas.so.12` via `ctypes.CDLL(RTLD_GLOBAL)` before importing ctranslate2, because pip's `nvidia-cublas-cu12` installs to a non-standard path and `LD_LIBRARY_PATH` can't be changed at runtime (glibc caches it).
|
||||||
- **Batch mode**: 3-phase pipeline (prescan → load model once → transcribe all). `TranscribeFileResult` carries updated model/backend/device state between files.
|
- **Batch mode**: 3-phase pipeline (prescan → create `Transcriber` → transcribe all). No state is carried between files by the CLI.
|
||||||
- **Device-aware defaults**: `compute_type` and `model` vary by device (float16 for CUDA, int8 for OpenVINO, float32 for CPU). Defined in `config.py` `DEVICE_DEFAULTS`.
|
- **Device-aware defaults**: `compute_type` and `model` vary by device (float16 for CUDA, int8 for OpenVINO, float32 for CPU). Defined in `config.py` `DEVICE_DEFAULTS`, applied by `Transcriber` when the request leaves them `None`.
|
||||||
|
- **ONNX thread budget**: `--threads` sets `intra_op_num_threads` for both ASR and VAD sessions via `SessionOptions`; 0 keeps onnxruntime defaults.
|
||||||
- **OpenVINO uses pre-quantized models** — `compute_type` selects which HF repo to download, not a runtime parameter.
|
- **OpenVINO uses pre-quantized models** — `compute_type` selects which HF repo to download, not a runtime parameter.
|
||||||
|
|
||||||
## Testing
|
## Testing
|
||||||
|
|
||||||
All tests mock backends — no real model downloads or transcription. Key test patterns:
|
All tests mock backends — no real model downloads or transcription. Key test patterns:
|
||||||
|
|
||||||
- CLI tests: `typer.testing.CliRunner` + mocks for `load_config`, `detect_device`, `load_model`, `_transcribe_file`, `write_transcript`
|
- CLI tests: `typer.testing.CliRunner` with the real `Transcriber` and a fake adapter patched at `local_transcriber.transcriber.get_backend`; `load_config`, `validate_input_file`, `write_transcript` mocked
|
||||||
- `_single_patches()` — helper assembling standard happy-path mock set
|
- `_cli_run()` — context manager assembling that standard set, yields `(backend, write_transcript)`
|
||||||
- `_make_result()` / `_make_tfr()` — factories for test data
|
- `_make_result()` / `_make_backend()` — factories for test data
|
||||||
|
- Module tests (`test_transcriber.py`): `Transcriber` through its interface with `_make_run_backend()`; adapter tests patch the libraries (`onnx_asr.load_model`, `faster_whisper.WhisperModel`)
|
||||||
|
|
||||||
## Common tasks
|
## Common tasks
|
||||||
|
|
||||||
@@ -79,7 +82,7 @@ All tests mock backends — no real model downloads or transcription. Key test p
|
|||||||
|
|
||||||
### Issue tracker
|
### Issue tracker
|
||||||
|
|
||||||
Задачи ведутся в Gitea через `tea`; GitHub используется только как зеркало, внешние PR не входят в triage. См. `docs/agents/issue-tracker.md`.
|
Задачи ведутся в Gitea через `tea`; внешние PR не входят в triage. См. `docs/agents/issue-tracker.md`.
|
||||||
|
|
||||||
### Triage labels
|
### Triage labels
|
||||||
|
|
||||||
|
|||||||
@@ -1 +1,21 @@
|
|||||||
@AGENTS.md
|
@AGENTS.md
|
||||||
|
|
||||||
|
# Стиль изложения
|
||||||
|
|
||||||
|
Пиши легко для чтения. Сокращай количество мыслей, а не количество слов, которыми выражена каждая мысль.
|
||||||
|
Please remove all mannered prose.
|
||||||
|
|
||||||
|
# Выбрать подход и держаться его
|
||||||
|
|
||||||
|
Выбирая, как решать задачу, возьми один подход и доведи его до конца. Не пересматривай
|
||||||
|
решение, пока не появится новая информация, которая прямо противоречит твоим
|
||||||
|
рассуждениям. Если колеблешься между двумя подходами, выбери один и посмотри, куда он
|
||||||
|
приведёт; свернуть можно позже, если выбранный не сработал.
|
||||||
|
|
||||||
|
# Для моделей Fable 5 и 5.1
|
||||||
|
|
||||||
|
При прочих равных экономь токены на правке файлов: когда результат не меняется, правь
|
||||||
|
файл точечно, а не переписывай целиком.
|
||||||
|
|
||||||
|
Сначала про себя составь список того, что нужно дальше; затем в одном ответе запроси
|
||||||
|
всё, что не зависит от результата другого запроса.
|
||||||
+8
-8
@@ -43,25 +43,25 @@ tests/
|
|||||||
CLI (cli.py)
|
CLI (cli.py)
|
||||||
→ config.py: загрузка .transcriber.toml, каскад дефолтов
|
→ config.py: загрузка .transcriber.toml, каскад дефолтов
|
||||||
→ utils.py: валидация файлов, определение устройства
|
→ utils.py: валидация файлов, определение устройства
|
||||||
→ transcriber.py: загрузка модели (с CUDA fallback), транскрипция
|
→ transcriber.py: Transcriber — разрешение устройства, загрузка модели один раз на запуск, транскрипция, fallback
|
||||||
→ formatter.py: сегменты → markdown с таймкодами
|
→ formatter.py: сегменты → markdown с таймкодами
|
||||||
→ запись результата
|
→ запись результата
|
||||||
```
|
```
|
||||||
|
|
||||||
## Ключевые архитектурные решения
|
## Ключевые архитектурные решения
|
||||||
|
|
||||||
- **CUDA fallback** — двухуровневый: при загрузке модели и при транскрипции (mid-stream). GPU может быть видна через nvidia-smi, но не иметь достаточно VRAM.
|
- **Module выполнения** (`Transcriber` в `transcriber.py`) — один владелец модели, adapter'а и фактического исполнения на запуск. Fallback GPU→CPU (при загрузке и mid-stream) живёт внутри и доступен только при `strict_device=False` из Python API: явный device в CLI strict, `auto` — ONNX CPU.
|
||||||
- **Device-aware дефолты** — `compute_type` зависит от устройства (`float16`/`float32`). `float16` не работает на CPU, `float32` расточителен на GPU.
|
- **Device-aware дефолты** — `model` и `compute_type` без явного значения разрешаются по устройству при загрузке (`float16`/`float32`). `float16` не работает на CPU, `float32` расточителен на GPU.
|
||||||
- **cuBLAS bootstrap** (`_cuda_bootstrap.py`) — preload через ctypes до импорта ctranslate2. pip-пакет `nvidia-cublas-cu12` ставит `.so` в нестандартное место, а `LD_LIBRARY_PATH` нельзя изменить в рантайме.
|
- **cuBLAS bootstrap** (`_cuda_bootstrap.py`) — preload через ctypes до импорта ctranslate2. pip-пакет `nvidia-cublas-cu12` ставит `.so` в нестандартное место, а `LD_LIBRARY_PATH` нельзя изменить в рантайме.
|
||||||
- **Батч-режим** — 3 фазы (prescan → load model → transcribe). Модель загружается один раз (~2-5 сек), невалидные файлы отсеиваются до загрузки.
|
- **Батч-режим** — 3 фазы (prescan → создание `Transcriber` → transcribe). Модель загружается один раз (~2-5 сек), невалидные файлы отсеиваются до загрузки; CLI не переносит состояние между файлами.
|
||||||
- **Ручной glob в utils** — typer на Windows не раскрывает `*.mp4`, поэтому глобы обрабатываются явно.
|
- **Ручной glob в utils** — typer на Windows не раскрывает `*.mp4`, поэтому глобы обрабатываются явно.
|
||||||
|
|
||||||
## Тестирование
|
## Тестирование
|
||||||
|
|
||||||
- Все CLI-тесты через `typer.testing.CliRunner` + моки (faster-whisper не вызывается)
|
- Все CLI-тесты через `typer.testing.CliRunner` с настоящим `Transcriber` и fake adapter, подменённым в `local_transcriber.transcriber.get_backend` (библиотеки не вызываются)
|
||||||
- Моки: `load_config`, `validate_input_file`, `detect_device`, `ensure_model_available`, `load_model`, `_transcribe_file`, `write_transcript`
|
- Моки: `load_config`, `validate_input_file`, `write_transcript`
|
||||||
- Паттерн: `_single_patches()` — хелпер для стандартного happy-path набора моков
|
- Паттерн: `_cli_run()` — контекстный менеджер стандартного набора, отдаёт `(backend, write_transcript)`
|
||||||
- `_make_result()` / `_make_tfr()` — фабрики тестовых данных
|
- `_make_result()` / `_make_backend()` — фабрики тестовых данных
|
||||||
|
|
||||||
## Частые задачи
|
## Частые задачи
|
||||||
|
|
||||||
|
|||||||
@@ -8,7 +8,7 @@ transcribe meeting.mp4
|
|||||||
```
|
```
|
||||||
|
|
||||||
- **Полностью локально** — данные не покидают машину
|
- **Полностью локально** — данные не покидают машину
|
||||||
- **Авто-ускорение** — NVIDIA CUDA при наличии GPU, иначе ONNX на CPU
|
- **ONNX на CPU по умолчанию** — CUDA и OpenVINO включаются явно
|
||||||
- **Батч-режим** — обработка нескольких файлов за один вызов
|
- **Батч-режим** — обработка нескольких файлов за один вызов
|
||||||
- **Разделение говорящих** — локальная диаризация по флагу `--diarize`
|
- **Разделение говорящих** — локальная диаризация по флагу `--diarize`
|
||||||
- **Из проводника Windows** — пункт Transcribe в меню «Отправить» ([установка](#контекстное-меню-проводника-windows))
|
- **Из проводника Windows** — пункт Transcribe в меню «Отправить» ([установка](#контекстное-меню-проводника-windows))
|
||||||
@@ -26,26 +26,42 @@ curl -LsSf https://astral.sh/uv/install.sh | sh # Linux / macOS
|
|||||||
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex" # Windows
|
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex" # Windows
|
||||||
```
|
```
|
||||||
|
|
||||||
**2. Установить transcriber:**
|
После установки откройте новую консоль, чтобы перечитались переменные окружения.
|
||||||
|
|
||||||
|
**2. Установить transcriber.** Напрямую из git, без скачивания исходников:
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
uv tool install git+https://git.dementev.space/ddmitry/local-transcriber.git
|
uv tool install --python 3.13 git+https://github.com/dementev-dev/local-transcriber
|
||||||
```
|
```
|
||||||
|
|
||||||
**3. Ускорение (ставится автоматически):**
|
Или из клона репозитория (`<URL>` — адрес репозитория, из которого вы ставите):
|
||||||
|
|
||||||
- **NVIDIA CUDA** (GPU): если есть GPU — транскрипция в 5-10× быстрее
|
```bash
|
||||||
- **Windows**: `winget install -e --id Nvidia.CUDA --version 12.9` (от администратора), перезапустить терминал
|
git clone <URL>
|
||||||
- **Linux / WSL2**: работает из коробки (нужен только драйвер: `nvidia-smi`)
|
cd local-transcriber
|
||||||
- **Без NVIDIA GPU**: автоматически используется ONNX с GigaAM RNN-T на CPU.
|
uv tool install --python 3.13 .
|
||||||
Эта модель понимает только русскую речь
|
```
|
||||||
- **Другие языки без NVIDIA**: выбирайте Whisper явно —
|
|
||||||
`--device openvino-cpu --model medium` на x86 или `--device cpu --model medium`
|
|
||||||
на любой платформе
|
|
||||||
- **OpenVINO** для Intel GPU или x86 CPU остаётся доступен через явный
|
|
||||||
`--device openvino`, `--device openvino-gpu` или `--device openvino-cpu`
|
|
||||||
|
|
||||||
**4. Готово:**
|
**3. Пункт `Transcribe` в меню «Отправить»** (Windows, по желанию):
|
||||||
|
|
||||||
|
```bash
|
||||||
|
transcribe --install-menu
|
||||||
|
```
|
||||||
|
|
||||||
|
Подробнее — в разделе [контекстное меню проводника](#контекстное-меню-проводника-windows).
|
||||||
|
|
||||||
|
**4. Выбор исполнения:**
|
||||||
|
|
||||||
|
- По умолчанию используется ONNX с GigaAM RNN-T на CPU, независимо от наличия
|
||||||
|
NVIDIA. Эта модель понимает только русскую речь.
|
||||||
|
- Для других языков выбирайте Whisper явно:
|
||||||
|
`--device openvino-cpu --model medium` на x86 или `--device cpu --model medium`.
|
||||||
|
- OpenVINO для Intel GPU или x86 CPU доступен через `--device openvino`,
|
||||||
|
`--device openvino-gpu` или `--device openvino-cpu`.
|
||||||
|
- Для NVIDIA установите дополнительные библиотеки и выберите CUDA явно:
|
||||||
|
[подключение CUDA](#подключение-cuda).
|
||||||
|
|
||||||
|
**5. Готово:**
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
transcribe meeting.mp4
|
transcribe meeting.mp4
|
||||||
@@ -63,7 +79,14 @@ transcribe meeting.mp4
|
|||||||
**Обновление:**
|
**Обновление:**
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
uv tool install --force git+https://git.dementev.space/ddmitry/local-transcriber.git
|
uv tool install --python 3.13 --force git+https://github.com/dementev-dev/local-transcriber
|
||||||
|
```
|
||||||
|
|
||||||
|
Или в папке со склонированным репозиторием:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
git pull
|
||||||
|
uv tool install --python 3.13 --force .
|
||||||
```
|
```
|
||||||
|
|
||||||
**Удаление:**
|
**Удаление:**
|
||||||
@@ -107,17 +130,74 @@ HuggingFace Hub использует симлинки для экономии м
|
|||||||
|
|
||||||
</details>
|
</details>
|
||||||
|
|
||||||
|
## Подключение CUDA
|
||||||
|
|
||||||
|
Обычная установка не требует NVIDIA-пакетов. Extra `cuda` добавляет cuBLAS
|
||||||
|
в окружение приложения на Linux/WSL x86_64 и Windows x64. Полный системный
|
||||||
|
CUDA Toolkit и ручная правка системного PATH для этого пути не нужны.
|
||||||
|
Совместимые GPU и драйвер NVIDIA необходимы отдельно: extra не устанавливает
|
||||||
|
драйвер и не исправляет несовместимость старой видеокарты.
|
||||||
|
|
||||||
|
Для установки из Git или подключения CUDA к уже установленной программе:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uv tool install --python 3.13 --force "local-transcriber[cuda] @ git+https://github.com/dementev-dev/local-transcriber"
|
||||||
|
```
|
||||||
|
|
||||||
|
Из клона репозитория:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uv tool install --python 3.13 --force ".[cuda]"
|
||||||
|
```
|
||||||
|
|
||||||
|
Для локальной разработки:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uv sync --extra cuda
|
||||||
|
uv run --extra cuda transcribe meeting.mp4 --device cuda
|
||||||
|
```
|
||||||
|
|
||||||
|
После установки extra выберите CUDA при запуске:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
transcribe meeting.mp4 --device cuda
|
||||||
|
```
|
||||||
|
|
||||||
|
Либо задайте в `.transcriber.toml`:
|
||||||
|
|
||||||
|
```toml
|
||||||
|
device = "cuda"
|
||||||
|
```
|
||||||
|
|
||||||
|
Установка extra сама по себе не меняет `auto`: он всегда использует ONNX CPU.
|
||||||
|
Явная CUDA при ошибке завершает обработку с исходной причиной; для распознанных
|
||||||
|
причин выводится подсказка. Молчаливого перехода на CPU нет. В батче ошибка
|
||||||
|
учитывается для каждого файла.
|
||||||
|
|
||||||
|
На Windows нужен также [Visual C++ Runtime x64](https://aka.ms/vs/17/release/vc_redist.x64.exe).
|
||||||
|
Состав DLL проверен для закреплённых версий CTranslate2 и cuBLAS;
|
||||||
|
реальный прогон нового пути на Windows без Toolkit пока не выполнен.
|
||||||
|
Подробности и ограничения проверки — [ADR-001](docs/adr/001-cuda-bootstrap.md).
|
||||||
|
|
||||||
|
При обновлении из старой установки:
|
||||||
|
|
||||||
|
- Для CPU повторите обычную команду `uv tool install` с `--force` без `[cuda]`.
|
||||||
|
В окружении разработки выполните `uv sync` — прежняя обязательная cuBLAS будет удалена.
|
||||||
|
- Для CUDA повторите соответствующую команду выше. Старый автоматический выбор
|
||||||
|
по `nvidia-smi` больше не действует; сохраните `device = "cuda"` в конфиге
|
||||||
|
либо передавайте `--device cuda`.
|
||||||
|
|
||||||
## Использование
|
## Использование
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
# Простой запуск (CUDA medium или ONNX GigaAM RNN-T, язык ru)
|
# Простой запуск (ONNX GigaAM RNN-T на CPU, язык ru)
|
||||||
transcribe meeting.mp4
|
transcribe meeting.mp4
|
||||||
|
|
||||||
# Указать язык
|
# Указать язык
|
||||||
transcribe lecture.mp3 --language en
|
transcribe lecture.mp3 --device cpu --model medium --language en
|
||||||
|
|
||||||
# Максимальное качество на NVIDIA GPU
|
# Максимальное качество на NVIDIA GPU
|
||||||
transcribe podcast.wav --model large-v3 --compute-type float16
|
transcribe podcast.wav --device cuda --model large-v3 --compute-type float16
|
||||||
|
|
||||||
# Максимальное качество на Intel GPU
|
# Максимальное качество на Intel GPU
|
||||||
transcribe podcast.wav --model large-v3 --device openvino-gpu
|
transcribe podcast.wav --model large-v3 --device openvino-gpu
|
||||||
@@ -218,15 +298,32 @@ transcribe --uninstall-menu
|
|||||||
| Опция | Сокращение | По умолчанию | Описание |
|
| Опция | Сокращение | По умолчанию | Описание |
|
||||||
|-------|-----------|-------------|----------|
|
|-------|-----------|-------------|----------|
|
||||||
| `--model` | `-m` | medium (CUDA) / gigaam-v3-e2e-rnnt (ONNX) | Модель распознавания |
|
| `--model` | `-m` | medium (CUDA) / gigaam-v3-e2e-rnnt (ONNX) | Модель распознавания |
|
||||||
| `--language` | `-l` | `ru` | Язык (ru, en, auto и др.); автоматический профиль без NVIDIA понимает только русский |
|
| `--language` | `-l` | `ru` | Язык (ru, en, auto и др.); автоматический профиль понимает только русский |
|
||||||
| `--output` | `-o` | `<файл>-transcript.md` | Путь к выходному файлу |
|
| `--output` | `-o` | `<файл>-transcript.md` | Путь к выходному файлу |
|
||||||
| `--device` | `-d` | `auto` | Устройство (auto, cpu, cuda, openvino, openvino-gpu, openvino-cpu, onnx) |
|
| `--device` | `-d` | `auto` | Устройство (auto, cpu, cuda, openvino, openvino-gpu, openvino-cpu, onnx) |
|
||||||
| `--compute-type` | — | float16 (CUDA) / int8 (ONNX/OpenVINO) / float32 (CPU) | Тип вычислений |
|
| `--compute-type` | — | float16 (CUDA) / int8 (ONNX/OpenVINO) / float32 (CPU) | Тип вычислений |
|
||||||
| `--threads` | `-t` | 0 (авто) | Потоки CPU (рекомендуется = число физ. ядер) |
|
| `--threads` | `-t` | 0 (авто) | Потоки CPU (рекомендуется = число физ. ядер); для ONNX задаёт потоки и ASR, и VAD |
|
||||||
| `--diarize` | — | — | Разделить текст на реплики говорящих |
|
| `--diarize` / `--no-diarize` | — | `false` | Включить или отключить разделение на реплики говорящих |
|
||||||
| `--speakers` | — | авто | Ожидаемое число говорящих; включает `--diarize` |
|
| `--speakers` | — | авто | Ожидаемое число говорящих; включает диаризацию и несовместим с `--no-diarize` |
|
||||||
| `--force` | `-f` | — | Перезаписать существующие транскрипты |
|
| `--force` | `-f` | — | Перезаписать существующие транскрипты |
|
||||||
| `--verbose` | `-v` | — | Подробный вывод |
|
| `--verbose` | `-v` | — | Подробный вывод: сегменты по ходу, движок, потоки, версии runtime |
|
||||||
|
|
||||||
|
### Диагностика исполнения
|
||||||
|
|
||||||
|
Перед распознаванием программа печатает модель, устройство и тип вычислений,
|
||||||
|
которые выбраны фактически: после `auto` это `onnx`, после `openvino` —
|
||||||
|
`openvino-gpu` или `openvino-cpu`. Если после загрузки устройство оказалось
|
||||||
|
не тем, что выбрано до неё (например, OpenVINO взял CPU вместо GPU),
|
||||||
|
выводится строка `Запрошено ..., используется ...`.
|
||||||
|
|
||||||
|
С `--verbose` добавляются движок, бюджет потоков и версии runtime: для ONNX —
|
||||||
|
`onnxruntime`, `onnx-asr`, доступные providers и те, что заданы сессиям ASR
|
||||||
|
и VAD; для CUDA — `ctranslate2` и число видимых CUDA-устройств; для OpenVINO —
|
||||||
|
версия и доступные устройства. Этих строк достаточно, чтобы разобрать проблему
|
||||||
|
на чужой машине без доступа к записи: попросите прислать вывод с `--verbose`.
|
||||||
|
|
||||||
|
Наличие provider в списке доступных не означает, что распознавание идёт
|
||||||
|
на GPU или NPU: сессии получают только явно заданный список, сейчас это CPU.
|
||||||
|
|
||||||
## Платформы
|
## Платформы
|
||||||
|
|
||||||
@@ -235,7 +332,7 @@ transcribe --uninstall-menu
|
|||||||
| CPU через ONNX | ✅ авто | ✅ авто | ✅ авто |
|
| CPU через ONNX | ✅ авто | ✅ авто | ✅ авто |
|
||||||
| OpenVINO (x86 CPU) | ✅ явно | — | ✅ явно |
|
| OpenVINO (x86 CPU) | ✅ явно | — | ✅ явно |
|
||||||
| OpenVINO (Intel GPU) | ✅ явно | — | ✅ явно |
|
| OpenVINO (Intel GPU) | ✅ явно | — | ✅ явно |
|
||||||
| GPU (NVIDIA) | ✅ авто | — | ✅ (нужен CUDA 12) |
|
| GPU (NVIDIA) | extra + явно (x86_64) | — | extra + явно (x64; прогон без Toolkit ожидается) |
|
||||||
|
|
||||||
Данные по macOS основаны на доступности пакетов onnxruntime: прогонов на этой
|
Данные по macOS основаны на доступности пакетов onnxruntime: прогонов на этой
|
||||||
платформе не было.
|
платформе не было.
|
||||||
@@ -244,9 +341,9 @@ transcribe --uninstall-menu
|
|||||||
<summary>Linux / WSL2</summary>
|
<summary>Linux / WSL2</summary>
|
||||||
|
|
||||||
- **Intel GPU** (Arc, встроенная графика) работает из коробки через OpenVINO
|
- **Intel GPU** (Arc, встроенная графика) работает из коробки через OpenVINO
|
||||||
- **NVIDIA GPU** работает из коробки — cuBLAS ставится автоматически как зависимость
|
- **NVIDIA GPU**: [extra `cuda` и явный выбор](#подключение-cuda), отдельно совместимый драйвер
|
||||||
- Нужен только драйвер NVIDIA (проверка: `nvidia-smi`)
|
- `nvidia-smi` проверяет наличие драйвера, но не доказывает совместимость GPU с runtime
|
||||||
- На ARM (aarch64) cuBLAS через pip недоступен — нужен системный CUDA toolkit
|
- CUDA extra на ARM (aarch64) этим проектом не поддерживается
|
||||||
|
|
||||||
</details>
|
</details>
|
||||||
|
|
||||||
@@ -263,13 +360,9 @@ transcribe --uninstall-menu
|
|||||||
|
|
||||||
- CPU работает из коробки
|
- CPU работает из коробки
|
||||||
- **Intel GPU** (Arc, встроенная графика) работает из коробки через OpenVINO
|
- **Intel GPU** (Arc, встроенная графика) работает из коробки через OpenVINO
|
||||||
- Для **NVIDIA GPU** нужен **CUDA 12** (ctranslate2 4.7 не совместим с CUDA 11 и 13):
|
- **NVIDIA GPU**: [extra `cuda` и явный выбор](#подключение-cuda), отдельно совместимый драйвер
|
||||||
```
|
- Требуется Visual C++ Runtime x64; системный CUDA Toolkit не нужен для extra
|
||||||
winget install -e --id Nvidia.CUDA --version 12.9
|
- Реальная транскрипция с extra без Toolkit пока не проверена на Windows
|
||||||
```
|
|
||||||
> `winget install` требует запуска от имени администратора (elevated terminal).
|
|
||||||
> `uv tool install` работает без админа (ставит в пользовательскую директорию).
|
|
||||||
- После установки CUDA перезапустите терминал
|
|
||||||
|
|
||||||
</details>
|
</details>
|
||||||
|
|
||||||
@@ -282,6 +375,7 @@ device = "openvino-cpu"
|
|||||||
model = "large-v3-turbo"
|
model = "large-v3-turbo"
|
||||||
compute_type = "int8"
|
compute_type = "int8"
|
||||||
language = "ru"
|
language = "ru"
|
||||||
|
diarize = true
|
||||||
```
|
```
|
||||||
|
|
||||||
Порядок поиска:
|
Порядок поиска:
|
||||||
@@ -289,9 +383,11 @@ language = "ru"
|
|||||||
2. `~/.config/transcriber/config.toml`
|
2. `~/.config/transcriber/config.toml`
|
||||||
|
|
||||||
Приоритет: **CLI-аргумент > конфиг > device-aware дефолт > встроенный дефолт**.
|
Приоритет: **CLI-аргумент > конфиг > device-aware дефолт > встроенный дефолт**.
|
||||||
|
`--diarize` и `--no-diarize` позволяют переопределить `diarize` из конфига для
|
||||||
|
отдельного запуска.
|
||||||
|
|
||||||
При `device = "auto"` выбирается CUDA, если доступен `nvidia-smi`, иначе ONNX.
|
При `device = "auto"` всегда выбирается ONNX CPU, даже если доступны
|
||||||
Явный `device` из CLI или конфига отключает этот автоматический выбор.
|
`nvidia-smi` и extra `cuda`. Другие варианты выбираются явно из CLI или конфига.
|
||||||
Каталоги моделей различаются между бэкендами, поэтому при закреплении `model`
|
Каталоги моделей различаются между бэкендами, поэтому при закреплении `model`
|
||||||
в конфиге рекомендуется явно закрепить и совместимый `device`. То же с языком:
|
в конфиге рекомендуется явно закрепить и совместимый `device`. То же с языком:
|
||||||
автоматический ONNX-профиль рассчитан на русскую речь, а для остальных языков
|
автоматический ONNX-профиль рассчитан на русскую речь, а для остальных языков
|
||||||
@@ -308,9 +404,9 @@ language = "ru"
|
|||||||
## Модели и GPU
|
## Модели и GPU
|
||||||
|
|
||||||
Рекомендации:
|
Рекомендации:
|
||||||
- **По умолчанию без CUDA:** ONNX `gigaam-v3-e2e-rnnt` — читаемый русский текст с
|
- **По умолчанию:** ONNX `gigaam-v3-e2e-rnnt` — читаемый русский текст с
|
||||||
пунктуацией почти без потери скорости относительно сырого `gigaam-v3`
|
пунктуацией почти без потери скорости относительно сырого `gigaam-v3`
|
||||||
- **Макс. качество (NVIDIA):** `large-v3` + `--compute-type float16`
|
- **Макс. качество (NVIDIA):** `--device cuda --model large-v3 --compute-type float16`
|
||||||
- **Макс. качество (Intel GPU):** `large-v3` + `--device openvino-gpu`
|
- **Макс. качество (Intel GPU):** `large-v3` + `--device openvino-gpu`
|
||||||
- **Макс. скорость CPU (русский):** `--device onnx --model gigaam-v3` (17-29× RTF, без пунктуации; рекомендуется LLM-нормализация терминов после)
|
- **Макс. скорость CPU (русский):** `--device onnx --model gigaam-v3` (17-29× RTF, без пунктуации; рекомендуется LLM-нормализация терминов после)
|
||||||
- **Быстрый OpenVINO с низким WER:** `--device openvino-cpu --model large-v3-turbo --compute-type int8` (7,2× RTFx на контрольном Intel CPU; пунктуация может быть слабой)
|
- **Быстрый OpenVINO с низким WER:** `--device openvino-cpu --model large-v3-turbo --compute-type int8` (7,2× RTFx на контрольном Intel CPU; пунктуация может быть слабой)
|
||||||
|
|||||||
+6
-6
@@ -49,7 +49,7 @@ transcribe <путь_к_файлу> [опции]
|
|||||||
--output, -o Путь к выходному файлу
|
--output, -o Путь к выходному файлу
|
||||||
По умолчанию: <input_stem>-transcript.md
|
По умолчанию: <input_stem>-transcript.md
|
||||||
--device, -d Устройство (auto|cpu|cuda|onnx|openvino|openvino-gpu|openvino-cpu)
|
--device, -d Устройство (auto|cpu|cuda|onnx|openvino|openvino-gpu|openvino-cpu)
|
||||||
По умолчанию: auto (CUDA при наличии, иначе ONNX CPU)
|
По умолчанию: auto (всегда ONNX CPU)
|
||||||
--compute-type Тип вычислений
|
--compute-type Тип вычислений
|
||||||
По умолчанию: float16 (CUDA) / int8 (ONNX)
|
По умолчанию: float16 (CUDA) / int8 (ONNX)
|
||||||
--verbose, -v Подробный вывод (прогресс сегментов)
|
--verbose, -v Подробный вывод (прогресс сегментов)
|
||||||
@@ -103,7 +103,7 @@ transcribe <путь_к_файлу> [опции]
|
|||||||
|---------------------------|---------------------------------------|
|
|---------------------------|---------------------------------------|
|
||||||
| RTX 3060 + large-v3 | ~10-15x (1 час аудио ≈ 4-6 мин) |
|
| RTX 3060 + large-v3 | ~10-15x (1 час аудио ≈ 4-6 мин) |
|
||||||
| RTX 4050 + large-v3 | ~12-18x (1 час аудио ≈ 3-5 мин) |
|
| RTX 4050 + large-v3 | ~12-18x (1 час аудио ≈ 3-5 мин) |
|
||||||
| Quadro M3000M + large-v3 | ~3-5x (1 час аудио ≈ 12-20 мин) |
|
| Quadro M3000M + CUDA | Не поддерживается текущей сборкой; см. [совместимость](gpu.md#совместимость-gpu) |
|
||||||
| CPU + ONNX GigaAM RNN-T | ~10-14x (1 час аудио ≈ 4-6 мин) |
|
| CPU + ONNX GigaAM RNN-T | ~10-14x (1 час аудио ≈ 4-6 мин) |
|
||||||
| CPU + OpenVINO Turbo INT8 | ~7-10x (1 час аудио ≈ 6-9 мин) |
|
| CPU + OpenVINO Turbo INT8 | ~7-10x (1 час аудио ≈ 6-9 мин) |
|
||||||
| CPU (modern) + large-v3 | ~0.5-1x (1 час аудио ≈ 60-120 мин) |
|
| CPU (modern) + large-v3 | ~0.5-1x (1 час аудио ≈ 60-120 мин) |
|
||||||
@@ -115,7 +115,7 @@ transcribe <путь_к_файлу> [опции]
|
|||||||
|-------------------|-------|--------------------------|----------------------------|-------------------------|
|
|-------------------|-------|--------------------------|----------------------------|-------------------------|
|
||||||
| RTX 3060 | 6 GB | ✅ | ✅ (впритык) | int8 — безопасный выбор |
|
| RTX 3060 | 6 GB | ✅ | ✅ (впритык) | int8 — безопасный выбор |
|
||||||
| RTX 4050 | 6 GB | ✅ | ✅ (впритык) | int8 — безопасный выбор |
|
| RTX 4050 | 6 GB | ✅ | ✅ (впритык) | int8 — безопасный выбор |
|
||||||
| Quadro M3000M | 4 GB | ✅ | ⚠️ может OOM | int8 обязательно |
|
| Quadro M3000M | 4 GB | ❌ | ❌ | ONNX CPU или OpenVINO |
|
||||||
| Без GPU | — | ONNX GigaAM INT8 | — | auto выбирает ONNX |
|
| Без GPU | — | ONNX GigaAM INT8 | — | auto выбирает ONNX |
|
||||||
|
|
||||||
Device-aware дефолты выбирают `float16` для CUDA и `int8` для ONNX/OpenVINO.
|
Device-aware дефолты выбирают `float16` для CUDA и `int8` для ONNX/OpenVINO.
|
||||||
@@ -123,7 +123,7 @@ Device-aware дефолты выбирают `float16` для CUDA и `int8` д
|
|||||||
### 4.2. Требования к окружению
|
### 4.2. Требования к окружению
|
||||||
|
|
||||||
- Python ≥ 3.13
|
- Python ≥ 3.13
|
||||||
- Для GPU: Linux/WSL2 — cuBLAS из nvidia-cublas-cu12 (ставится автоматически через `uv sync`); Windows — системный CUDA toolkit (см. ADR-001)
|
- Для NVIDIA GPU на Linux/WSL x86_64 и Windows x64: совместимый драйвер, extra `cuda` и явный выбор CUDA (см. ADR-001); Windows также требует Visual C++ Runtime x64
|
||||||
- Дисковое пространство для моделей: зависит от выбранного backend и модели
|
- Дисковое пространство для моделей: зависит от выбранного backend и модели
|
||||||
- Выходные файлы: UTF-8 (явная кодировка при записи)
|
- Выходные файлы: UTF-8 (явная кодировка при записи)
|
||||||
|
|
||||||
@@ -177,9 +177,9 @@ local-transcriber/
|
|||||||
| Качество распознавания русского текста | Среднее | large-v3 хорошо справляется с ru; при проблемах — попробовать `--language ru` вместо auto |
|
| Качество распознавания русского текста | Среднее | large-v3 хорошо справляется с ru; при проблемах — попробовать `--language ru` вместо auto |
|
||||||
| Нет разделения по спикерам | Низкое | Осознанно выведено за скоуп MVP; добавление diarization (pyannote.audio) — возможное расширение |
|
| Нет разделения по спикерам | Низкое | Осознанно выведено за скоуп MVP; добавление diarization (pyannote.audio) — возможное расширение |
|
||||||
| Первый запуск: долгая загрузка модели | Низкое | Прогресс-бар при скачивании; модели кешируются в `~/.cache/huggingface/` |
|
| Первый запуск: долгая загрузка модели | Низкое | Прогресс-бар при скачивании; модели кешируются в `~/.cache/huggingface/` |
|
||||||
| CUDA несовместимость на Windows | Среднее | Автоматический fallback на CPU + предупреждение; в README — инструкция по CUDA |
|
| CUDA несовместимость на Windows | Среднее | Явная CUDA сохраняет причину ошибки; пользователь выбирает CPU или исправляет окружение по README |
|
||||||
| Большие файлы (>2 часов) | Среднее | Учитывать память выбранного backend; чанкование рассматривается отдельно |
|
| Большие файлы (>2 часов) | Среднее | Учитывать память выбранного backend; чанкование рассматривается отдельно |
|
||||||
| OOM на GPU с 4 GB VRAM | Среднее | CUDA использует float16; при OOM — fallback на CPU с предупреждением или явный более лёгкий профиль |
|
| OOM на GPU с 4 GB VRAM | Среднее | CUDA использует float16; при OOM явной CUDA — ошибка с подсказкой выбрать меньшую модель или CPU |
|
||||||
| Файл без речи (тишина, музыка, шум) | Низкое | Создаётся транскрипт с шапкой метаданных и `*Речь не обнаружена.*` в теле + предупреждение в stderr |
|
| Файл без речи (тишина, музыка, шум) | Низкое | Создаётся транскрипт с шапкой метаданных и `*Речь не обнаружена.*` в теле + предупреждение в stderr |
|
||||||
|
|
||||||
## 7. Вне скоупа MVP
|
## 7. Вне скоупа MVP
|
||||||
|
|||||||
+108
-52
@@ -1,78 +1,134 @@
|
|||||||
# ADR-001: Preload libcublas из pip-пакета для GPU на Linux/WSL2
|
# ADR-001: Необязательная CUDA и загрузка cuBLAS из окружения
|
||||||
|
|
||||||
**Статус**: Принято
|
**Статус**: Принято; пересмотр обязательной cuBLAS от 2026-03-18
|
||||||
**Дата**: 2026-03-18
|
**Дата**: 2026-03-18
|
||||||
|
**Обновлено**: 2026-09-21, задача [#2](https://git.dementev.space/ddmitry/local-transcriber/issues/2)
|
||||||
|
|
||||||
## Контекст
|
## Контекст
|
||||||
|
|
||||||
ctranslate2 (backend faster-whisper) в runtime делает `dlopen("libcublas.so.12")`,
|
CTranslate2 загружает cuBLAS динамически и не поставляет её в своём wheel.
|
||||||
но не бандлит эту библиотеку в свой wheel — ожидает её в системе.
|
Прежняя обязательная зависимость добавляла около 581 MB скачивания на Linux
|
||||||
Без установленного CUDA toolkit `uv run transcribe --device cuda` падает с ошибкой.
|
x86_64, даже если пользователь работал только через ONNX CPU.
|
||||||
|
Наличие `nvidia-smi` доказывает наличие утилиты драйвера, но не совместимость GPU
|
||||||
|
с runtime. Автоматический выбор CUDA мог приводить к ошибке на старом GPU.
|
||||||
|
|
||||||
Ключевые факты:
|
Прежнее утверждение о недоступности Windows wheel `nvidia-cublas-cu12` было
|
||||||
- `libcuda.so.1` приходит от NVIDIA driver (всегда есть, если GPU есть)
|
ошибочным: такой wheel есть и для закреплённой версии 12.9.1.4. Следовательно,
|
||||||
- `libcublas.so.12` отсутствует в wheel ctranslate2 на обеих платформах
|
системный CUDA Toolkit не должен быть обязательным способом подключения Windows.
|
||||||
- **cuDNN не нужен** — в `libctranslate2.so` ноль символов cudnn (проверено `nm -D` и `strings`)
|
|
||||||
- На Windows ctranslate2 делает `os.add_dll_directory` в своём `__init__.py`,
|
|
||||||
но только для DLL внутри пакета; `cublas64_12.dll` тоже не бандлится
|
|
||||||
|
|
||||||
## Решение
|
## Решение
|
||||||
|
|
||||||
### nvidia-cublas-cu12 как pip-зависимость
|
CUDA подключается через extra `cuda` на Linux/WSL x86_64 и Windows x64.
|
||||||
|
Драйвер NVIDIA остаётся внешним требованием; Windows также требует Visual C++
|
||||||
|
Runtime x64. Установка extra не включает CUDA: пользователь выбирает её через
|
||||||
|
CLI или TOML. `auto` всегда выбирает ONNX CPU, ASR и VAD получают явный
|
||||||
|
`CPUExecutionProvider`. Команды установки и обновления — в
|
||||||
|
[README](../../README.md#подключение-cuda).
|
||||||
|
|
||||||
В `pyproject.toml`:
|
CTranslate2 4.8.1 и cuBLAS 12.9.1.4 закреплены в `pyproject.toml`, чтобы
|
||||||
```
|
установка через `uv tool` и из клона использовала проверенное сочетание.
|
||||||
"nvidia-cublas-cu12>=12.4; sys_platform == 'linux' and platform_machine == 'x86_64'"
|
В cuBLAS 12.9.2.10 появилась дополнительная зависимость NVRTC. Обновление
|
||||||
```
|
версий требует повторной проверки библиотек и bootstrap; одного обновления
|
||||||
|
lock-файла недостаточно.
|
||||||
|
|
||||||
Нижняя граница `>=12.4` — ctranslate2 собран с CUDA 12.4. Пакет доступен только
|
### Linux: preload по полному пути
|
||||||
для Linux x86_64 (на Windows и macOS не устанавливается по platform marker).
|
|
||||||
|
|
||||||
### ctypes.CDLL preload вместо LD_LIBRARY_PATH
|
`_cuda_bootstrap.py` загружает `libcublas.so.12` через `ctypes.CDLL` с
|
||||||
|
`RTLD_GLOBAL`. Линкер затем разрешает запрос CTranslate2 по soname.
|
||||||
|
Изменение `LD_LIBRARY_PATH` внутри процесса не решает задачу: glibc кеширует
|
||||||
|
пути поиска. Путь optional-пакета определяется через `nvidia.cublas.__path__`,
|
||||||
|
что поддерживает namespace package без `__file__`.
|
||||||
|
|
||||||
`_cuda_bootstrap.py` загружает `libcublas.so.12` по полному пути через
|
### Windows: регистрация каталога и preload DLL
|
||||||
`ctypes.CDLL(path, mode=RTLD_GLOBAL)` **до** первого `import ctranslate2`.
|
|
||||||
|
|
||||||
Почему не `os.environ["LD_LIBRARY_PATH"]`: на Linux/glibc динамический линкер (`ld.so`)
|
Bootstrap регистрирует `nvidia/cublas/bin` через `os.add_dll_directory`, затем
|
||||||
кеширует пути поиска при старте процесса и **не перечитывает** `LD_LIBRARY_PATH`
|
загружает по абсолютным путям сначала `cublasLt64_12.dll`, затем
|
||||||
из environ в рамках уже запущенного процесса.
|
`cublas64_12.dll`. Handles библиотек и регистрации каталога хранятся до
|
||||||
|
завершения процесса. Повторный вызов не загружает их заново. Это обеспечивает
|
||||||
|
доступность уже загруженных DLL для динамического загрузчика CTranslate2 и
|
||||||
|
не требует изменения системного PATH.
|
||||||
|
|
||||||
Почему `RTLD_GLOBAL`: без этого флага символы cublas не видны другим `.so`,
|
Bootstrap вызывается только при создании CUDA-модели, до локального импорта
|
||||||
загруженным позже (в т.ч. `libctranslate2.so`).
|
`WhisperModel`. Если CTranslate2 ранее импортирован для декодирования аудио,
|
||||||
|
preload всё равно выполняется до создания CUDA-модели. CPU-путь bootstrap не
|
||||||
|
вызывает. Отсутствие optional-пакета безопасно: системная cuBLAS всё ещё может
|
||||||
|
обслужить явно выбранную CUDA. Ошибка загрузки найденной Windows DLL сохраняется.
|
||||||
|
|
||||||
Динамический линкер кеширует загруженные библиотеки по soname — когда ctranslate2
|
### Ошибки и явный выбор
|
||||||
потом вызовет `dlopen("libcublas.so.12")`, линкер вернёт уже загруженный handle.
|
|
||||||
|
|
||||||
### strict_device для явного --device
|
Явный `device` из CLI или TOML передаёт `strict_device=True` при загрузке и
|
||||||
|
транскрипции. CUDA не заменяется молча на CPU. Подсказки различают отсутствие
|
||||||
|
библиотек, проблемы драйвера, несовместимость GPU/runtime и нехватку памяти;
|
||||||
|
отказ по неподдерживаемому типу вычислений учитывает устройство, чтобы
|
||||||
|
одинаковая ошибка CTranslate2 на CPU не получала CUDA-подсказку. Исходное
|
||||||
|
сообщение сохраняется. Неизвестная ошибка не получает произвольный
|
||||||
|
совет установить Toolkit. Это одинаково для одного файла и батча.
|
||||||
|
|
||||||
`--device cuda` / `--device cpu` → `strict_device=True` → CUDA-ошибка = raise, без fallback.
|
Прежний механизм fallback оркестратора при `strict_device=False` сохранён
|
||||||
`--device auto` → `strict_device=False` → текущее поведение с fallback на CPU.
|
для существующих программных callers. Автоматический CLI-путь теперь ONNX,
|
||||||
|
поэтому он не попадает в CUDA fallback.
|
||||||
|
|
||||||
Мотивация: silent fallback для часового файла = 60 минут вместо 5.
|
## Проверка зависимостей Windows
|
||||||
|
|
||||||
## Последствия и tradeoffs
|
Статическая проверка 2026-09-21: скачаны wheels из PyPI, проверены SHA-256,
|
||||||
|
для DLL/PYD прочитаны PE imports через `objdump -p` и строки динамической
|
||||||
|
загрузки. Модели распознавания не скачивались.
|
||||||
|
|
||||||
**~400 MB на CPU-only Linux x86_64**: nvidia-cublas-cu12 ставится на все Linux x86_64,
|
- `ctranslate2-4.8.1-cp313-cp313-win_amd64.whl`, SHA-256
|
||||||
включая машины без GPU. Bootstrap при этом preload'ит libcublas (overhead ~1 ms),
|
`d52499f05a60a791aeadee28d609efa130142f376d1ea76b2b1c593bb01f8827`.
|
||||||
но она не используется, т.к. ctranslate2 не получит запрос на CUDA device.
|
`ctranslate2.dll` содержит имена `cublas64_12.dll` и `nvcuda.dll`;
|
||||||
|
ссылок на cuDNN и динамическую cudart в этой DLL не обнаружено.
|
||||||
|
В wheel есть `cudnn64_9.dll`, но её наличие не означает использование
|
||||||
|
cuDNN проверенной рабочей DLL. OpenMP DLL поставляется внутри wheel;
|
||||||
|
импорты MSVCP/VCRUNTIME требуют Visual C++ Runtime.
|
||||||
|
- `nvidia_cublas_cu12-12.9.1.4-py3-none-win_amd64.whl`, SHA-256
|
||||||
|
`1e5fee10662e6e52bd71dec533fbbd4971bb70a5f24f3bc3793e5c2e9dc640bf`.
|
||||||
|
DLL находятся в `nvidia/cublas/bin`. cuBLAS импортирует cuBLAS Lt и
|
||||||
|
KERNEL32; cuBLAS Lt импортирует KERNEL32. В строках cuBLAS Lt также найдена
|
||||||
|
динамическая ссылка на `nvrtc64_120_0.dll`, которой нет в PE imports.
|
||||||
|
Обязательность NVRTC для Whisper этим статическим анализом не установлена;
|
||||||
|
первый реальный Windows-прогон должен проверить и этот путь загрузки.
|
||||||
|
`nvblas64_12.dll` не требуется проверенному пути CTranslate2.
|
||||||
|
|
||||||
Альтернатива — `[project.optional-dependencies]` + `uv sync --extra cuda`,
|
Основания: [CTranslate2 4.8.1 на PyPI](https://pypi.org/project/ctranslate2/4.8.1/#files),
|
||||||
но тогда теряется zero-config UX. Для v1 оставляем как обязательную зависимость.
|
[cuBLAS 12.9.1.4 на PyPI](https://pypi.org/project/nvidia-cublas-cu12/12.9.1.4/#files),
|
||||||
|
[загрузчик CTranslate2](https://github.com/OpenNMT/CTranslate2/blob/v4.8.1/python/ctranslate2/__init__.py),
|
||||||
|
[метаданные cuBLAS 12.9.2.10](https://pypi.org/pypi/nvidia-cublas-cu12/12.9.2.10/json).
|
||||||
|
|
||||||
**Windows GPU**: nvidia-cublas-cu12 недоступен как pip-пакет для Windows.
|
Это обоснование состава extra для конкретных wheels, а не подтверждение
|
||||||
Единственный путь — системный CUDA toolkit (`choco install cuda` / `winget install -e --id Nvidia.CUDA`).
|
транскрипции на Windows GPU. Реальный прогон Windows x64 с драйвером и extra,
|
||||||
CLI выводит эту подсказку при CUDA-ошибке на `sys.platform == "win32"`.
|
без Toolkit и ручной правки PATH, **не выполнен**. Linux-тесты с подменой
|
||||||
|
Windows API не заменяют такую проверку.
|
||||||
|
|
||||||
**Namespace package**: `nvidia.cublas` — namespace package (`__file__` is `None`),
|
## Проверка поставки и поведения
|
||||||
для определения директории используется `__path__[0]`, а не `__file__`.
|
|
||||||
|
|
||||||
## Отклонённые альтернативы
|
На Linux выполнены `uv run pytest`: 524 passed, 2 skipped. Пропуски —
|
||||||
|
Windows-only кодировка OEM и интеграционный bootstrap без optional-пакета.
|
||||||
|
До удаления cuBLAS интеграционный тест Linux bootstrap проходил.
|
||||||
|
Обычный `uv sync --locked` удаляет прежнюю обязательную cuBLAS;
|
||||||
|
`uv sync --extra cuda --locked --dry-run` возвращает её в план установки.
|
||||||
|
|
||||||
| Альтернатива | Почему отклонена |
|
Метаданные собранного wheel проверены для 12 сочетаний платформы, архитектуры
|
||||||
|---|---|
|
и extra. Полное разрешение зависимостей wheel через `uv pip compile` для Linux
|
||||||
| `nvidia-cudnn-cu12` в зависимостях | ctranslate2 не использует cuDNN — ноль символов, проверено через `nm -D` |
|
и Windows, с extra и без, подтверждает отсутствие NVIDIA-пакетов в обычной
|
||||||
| Self-reexec с `LD_LIBRARY_PATH` | ctypes.CDLL решает задачу без перезапуска процесса; self-reexec создаёт проблемы с сигналами, tty, fd |
|
установке и наличие только cuBLAS 12.9.1.4 при выборе extra.
|
||||||
| `os.environ["LD_LIBRARY_PATH"] += ...` | glibc кеширует пути при старте, не перечитывает environ |
|
|
||||||
| `DeviceResolution` dataclass + `resolve_device()` | Один `bool strict_device` решает ту же задачу проще |
|
Формы `uv tool install` для клона, клона с extra и именованной Git-зависимости
|
||||||
| ctranslate2 preflight (`get_supported_compute_types`) | Латентность; try/catch при загрузке модели не хуже |
|
с extra проверены в отдельном временном каталоге tools. Для проверки самой
|
||||||
| Bootstrap console_scripts entrypoint | Не нужен — достаточно вызова в начале `transcriber.py` |
|
команды зависимости были исключены; их разрешение проверено отдельно выше.
|
||||||
|
Git-транспорт проверялся через локальный репозиторий и ветку реализации,
|
||||||
|
а не через ещё не опубликованную ветку на сервере. Версия uv — 0.12.17.
|
||||||
|
|
||||||
|
## Последствия и альтернативы
|
||||||
|
|
||||||
|
- Обычная установка не требует NVIDIA-пакетов. FasterWhisper CPU сохраняется.
|
||||||
|
- Дополнительные библиотеки скачиваются только по выбору пользователя.
|
||||||
|
- Единый extra заменяет требование установить полный Toolkit на Windows;
|
||||||
|
существующая системная установка библиотек остаётся допустимой.
|
||||||
|
- Отклонено сохранение обязательной cuBLAS ради готовности CUDA сразу после
|
||||||
|
установки: это увеличивает CPU-установку и не решает несовместимость GPU.
|
||||||
|
- Отклонено автоматическое включение CUDA по драйверу или extra: установка
|
||||||
|
библиотек не должна менять движок и модель по умолчанию.
|
||||||
|
- Перезапуск процесса с `LD_LIBRARY_PATH` не нужен; явная загрузка библиотек
|
||||||
|
решает проблему без изменения обработки сигналов и файловых дескрипторов.
|
||||||
|
- CUDA extra на Windows ARM64, Linux ARM и macOS в эту задачу не входит.
|
||||||
@@ -2,6 +2,7 @@
|
|||||||
|
|
||||||
**Статус**: Принято
|
**Статус**: Принято
|
||||||
**Дата**: 2026-03-18
|
**Дата**: 2026-03-18
|
||||||
|
**Обновлено**: 2026-09-21 — решения 2 и 4 пересмотрены (см. пометки)
|
||||||
|
|
||||||
## Контекст
|
## Контекст
|
||||||
|
|
||||||
@@ -17,19 +18,23 @@
|
|||||||
|
|
||||||
**Почему**: загрузка модели (large-v3) занимает ~10 секунд и ~3 GB RAM/VRAM. Повторный запуск по уже обработанным файлам должен быть дешёвым no-op.
|
**Почему**: загрузка модели (large-v3) занимает ~10 секунд и ~3 GB RAM/VRAM. Повторный запуск по уже обработанным файлам должен быть дешёвым no-op.
|
||||||
|
|
||||||
### 2. TranscribeFileResult: возврат обновлённого состояния модели
|
### 2. Состояние модели между файлами
|
||||||
|
|
||||||
При mid-stream CUDA fallback `_transcribe_file()` перезагружает модель на CPU внутри себя. Чтобы следующие файлы в батче не грузили модель повторно, результат включает обновлённые `model` и `actual_device`.
|
**Пересмотрено 2026-09-21.** Исходное решение: `_transcribe_file()` возвращал
|
||||||
|
`TranscribeFileResult` с обновлёнными `model`, `backend`, `model_path`
|
||||||
|
и `actual_device`, а CLI переносил их в следующий файл после mid-stream
|
||||||
|
fallback. Это делало caller владельцем согласованности четырёх полей.
|
||||||
|
|
||||||
```python
|
Теперь состояние не покидает module выполнения: `Transcriber` создаётся один
|
||||||
@dataclass
|
раз на запуск после prescan, загружает модель при первом файле и сам держит
|
||||||
class TranscribeFileResult:
|
загруженную модель, adapter и фактическое исполнение. Fallback меняет
|
||||||
result: TranscribeResult
|
состояние внутри module, и следующий файл батча идёт уже по нему. Caller
|
||||||
model: WhisperModel # может измениться при fallback
|
получает `TranscribeResult` и `ExecutionInfo` (запрошенное и выбранное
|
||||||
actual_device: str # может измениться при fallback
|
исполнение, движок, модель, квантизация, потоки, версии runtime).
|
||||||
```
|
|
||||||
|
|
||||||
**Альтернатива**: передавать модель по ссылке через mutable контейнер — менее явно и сложнее тестировать.
|
**Альтернатива**: mutable-контейнер с моделью, передаваемый по ссылке, —
|
||||||
|
отклонена тогда же; owner-объект решает ту же задачу явно и тестируется
|
||||||
|
через свой interface.
|
||||||
|
|
||||||
### 3. Конфиг: CWD → глобальный, без мержа
|
### 3. Конфиг: CWD → глобальный, без мержа
|
||||||
|
|
||||||
@@ -43,15 +48,18 @@ class TranscribeFileResult:
|
|||||||
|
|
||||||
**Приоритет значений**: CLI > конфиг > хардкод.
|
**Приоритет значений**: CLI > конфиг > хардкод.
|
||||||
|
|
||||||
### 4. `_transcribe_file()` — внутренний helper
|
### 4. Публичный `transcribe()` — путь одного файла
|
||||||
|
|
||||||
Публичный API (`transcribe()`) сохранён без изменений. Новая функция `_transcribe_file()` — внутренний helper с префиксом `_`, не часть публичного контракта.
|
**Пересмотрено 2026-09-21.** Внутренние helpers `load_model()`
|
||||||
|
и `_transcribe_file()` удалены. `transcribe()` сохранён и стал обёрткой над
|
||||||
`transcribe()` стала тонкой обёрткой: `load_model()` + `_transcribe_file()` → `TranscribeResult`.
|
тем же `Transcriber`: `model_name` и `compute_type` без значения берут
|
||||||
|
умолчания выбранного исполнения, `device="auto"` означает ONNX CPU, как в CLI.
|
||||||
|
|
||||||
## Последствия
|
## Последствия
|
||||||
|
|
||||||
- Обратная совместимость CLI: `transcribe file.mp4` работает как раньше
|
- Обратная совместимость CLI: `transcribe file.mp4` работает как раньше
|
||||||
- Все существующие тесты проходят без изменений сигнатур
|
- Batch mode: модель загружается один раз для всех файлов; CLI не переносит
|
||||||
- Batch mode: модель загружается один раз для всех файлов
|
состояние между файлами
|
||||||
|
- Fallback из CLI недостижим: явный device — strict, `auto` — ONNX CPU без
|
||||||
|
переходов. Механизм сохранён для `transcribe(..., strict_device=False)`
|
||||||
- `--force` флаг для перезаписи существующих транскриптов в батч-режиме
|
- `--force` флаг для перезаписи существующих транскриптов в батч-режиме
|
||||||
@@ -2,7 +2,7 @@
|
|||||||
|
|
||||||
**Статус**: Принято
|
**Статус**: Принято
|
||||||
**Дата**: 2026-03-21
|
**Дата**: 2026-03-21
|
||||||
**Обновлено**: 2026-08-12
|
**Обновлено**: 2026-09-21
|
||||||
|
|
||||||
## Контекст
|
## Контекст
|
||||||
|
|
||||||
@@ -32,8 +32,9 @@ Protocol вместо ABC — бэкенды не наследуются, дос
|
|||||||
### Ленивые импорты
|
### Ленивые импорты
|
||||||
|
|
||||||
Бэкенды импортируются только при выборе — `get_backend(device)` делает import внутри.
|
Бэкенды импортируются только при выборе — `get_backend(device)` делает import внутри.
|
||||||
Импорт faster-whisper запускает CUDA bootstrap (~1ms), импорт openvino-genai загружает ~50MB
|
CUDA bootstrap вызывается только при создании CUDA-модели (см. ADR-001).
|
||||||
shared libraries. Ни то, ни другое не должно происходить, если бэкенд не выбран.
|
Импорт openvino-genai загружает ~50MB shared libraries и не должен происходить,
|
||||||
|
если бэкенд не выбран.
|
||||||
|
|
||||||
### Device как селектор бэкенда
|
### Device как селектор бэкенда
|
||||||
|
|
||||||
@@ -41,23 +42,41 @@ shared libraries. Ни то, ни другое не должно происхо
|
|||||||
- `cuda`, `cpu` → FasterWhisperBackend
|
- `cuda`, `cpu` → FasterWhisperBackend
|
||||||
- `openvino` → OpenVINOBackend
|
- `openvino` → OpenVINOBackend
|
||||||
- `onnx` → OnnxAsrBackend
|
- `onnx` → OnnxAsrBackend
|
||||||
- `auto` → CUDA при наличии `nvidia-smi`, иначе ONNX на CPU
|
- `auto` → ONNX на CPU независимо от `nvidia-smi` и установки extra
|
||||||
|
|
||||||
### load_model() — единственный владелец pipeline
|
### Transcriber — единственный владелец загрузки и исполнения
|
||||||
|
|
||||||
`load_model()` выполняет ensure_model_available + create_model в одном вызове.
|
Обновлено 2026-09-21. `Transcriber(ExecutionRequest)` в `transcriber.py`
|
||||||
CLI не вызывает ensure_model_available отдельно — это убирает двойной resolution
|
разрешает `auto` и device-aware умолчания, выполняет ensure_model_available +
|
||||||
и гарантирует, что модель скачивается для правильного бэкенда.
|
create_model в одном месте и держит модель, adapter и фактическое исполнение
|
||||||
|
на весь запуск. CLI не вызывает `get_backend` и не хранит handles.
|
||||||
|
|
||||||
|
Внутри module различаются три вещи: поддерживаемая модель, движок
|
||||||
|
распознавания (`faster-whisper`, `openvino`, `onnx-asr`) и способ исполнения.
|
||||||
|
Значение `device` из CLI/TOML сохраняется как вход: `get_backend` выбирает
|
||||||
|
по нему adapter, adapter называет свой движок атрибутом `engine`, а
|
||||||
|
аппаратную часть (CPU, CUDA, Intel GPU, список providers) трактует сам.
|
||||||
|
Новое исполнение — новое значение `device` в `get_backend` и его понимание
|
||||||
|
в adapter'е, не новая иерархия adapters.
|
||||||
|
|
||||||
### Cross-backend fallback
|
### Cross-backend fallback
|
||||||
|
|
||||||
Fallback живёт в `transcriber.py` (оркестратор), не в бэкендах:
|
Fallback живёт внутри `Transcriber`, не в бэкендах и не в CLI:
|
||||||
- CUDA ошибка → CPU (FasterWhisper)
|
- CUDA ошибка → CPU (FasterWhisper)
|
||||||
- OpenVINO ошибка → CPU (FasterWhisper)
|
- OpenVINO ошибка → CPU (FasterWhisper)
|
||||||
- `strict_device=True` (явный `--device`) → ошибка без fallback
|
- strict запуск (явный device из CLI или TOML) → ошибка без fallback
|
||||||
|
|
||||||
При fallback в батч-режиме обновляются model, backend, model_path и actual_device
|
После перехода module сам держит новое состояние; следующий файл батча
|
||||||
через TranscribeFileResult — следующий файл использует правильный бэкенд.
|
использует его без участия caller. `WordTimestampsUnavailableError`
|
||||||
|
и ошибки пользовательских данных переходом не считаются.
|
||||||
|
|
||||||
|
### Диагностика исполнения
|
||||||
|
|
||||||
|
Каждый adapter отдаёт `runtime_info()` — версии runtime и фактическую
|
||||||
|
конфигурацию (для ONNX — доступные providers и те, что заданы сессиям ASR
|
||||||
|
и VAD, квантизация, бюджет потоков). `Transcriber` включает их в
|
||||||
|
`ExecutionInfo`; CLI печатает их в `--verbose`. Наличие provider в wheel не
|
||||||
|
считается доказательством выполнения графа на GPU/NPU.
|
||||||
|
|
||||||
### Аудио для OpenVINO
|
### Аудио для OpenVINO
|
||||||
|
|
||||||
@@ -76,13 +95,13 @@ OpenVINO модели предквантизированы (int8/fp16), compute_
|
|||||||
### Зависимости бэкендов по умолчанию
|
### Зависимости бэкендов по умолчанию
|
||||||
|
|
||||||
faster-whisper, onnx-asr/onnxruntime и openvino-genai ставятся вместе. Модели
|
faster-whisper, onnx-asr/onnxruntime и openvino-genai ставятся вместе. Модели
|
||||||
скачиваются только для активного бэкенда. CUDA (`nvidia-cublas-cu12`) остаётся
|
скачиваются только для активного бэкенда. cuBLAS подключается через extra `cuda`
|
||||||
conditional для Linux x86_64. OpenVINO — conditional для x86_64/AMD64, кроме
|
для Linux/WSL x86_64 и Windows x64 (см. ADR-001). OpenVINO — conditional для x86_64/AMD64, кроме
|
||||||
macOS; ONNX обеспечивает автоматический CPU-путь на остальных платформах.
|
macOS; ONNX обеспечивает автоматический CPU-путь на остальных платформах.
|
||||||
|
|
||||||
## Последствия
|
## Последствия
|
||||||
|
|
||||||
- Обратная совместимость: `transcribe()` сохранён; `load_model()` изменил сигнатуру (возвращает 4-tuple вместо 2-tuple, добавлен `compute_type_explicit`)
|
- Обратная совместимость: `transcribe()` сохранён; `load_model()` и `_transcribe_file()` удалены (2026-09-21)
|
||||||
- Новый бэкенд добавляется одним файлом в `backends/` + регистрацией в `__init__.py`
|
- Новый бэкенд добавляется одним файлом в `backends/` + регистрацией в `__init__.py`
|
||||||
- Модели скачиваются по запросу — CUDA пользователь не качает OpenVINO модели, и наоборот
|
- Модели скачиваются по запросу — CUDA пользователь не качает OpenVINO модели, и наоборот
|
||||||
- ARM и macOS: OpenVINO не ставится (platform markers), auto использует ONNX
|
- ARM и macOS: OpenVINO не ставится (platform markers), auto использует ONNX
|
||||||
|
|||||||
@@ -102,10 +102,12 @@ Mm-hmm-редукция и иностранные вставки **не обна
|
|||||||
## Решение
|
## Решение
|
||||||
|
|
||||||
**Принять onnx-asr как CPU-бэкенд автоматического профиля.
|
**Принять onnx-asr как CPU-бэкенд автоматического профиля.
|
||||||
GigaAM v3 E2E RNN-T — модель по умолчанию на машинах без CUDA.**
|
GigaAM v3 E2E RNN-T — модель автоматического профиля на всех машинах.**
|
||||||
|
|
||||||
Порядок `--device auto`: CUDA при наличии `nvidia-smi`, иначе ONNX. OpenVINO и
|
С 2026-09-21 `--device auto` всегда выбирает ONNX CPU; для ASR и VAD явно
|
||||||
FasterWhisper CPU остаются доступными через явный CLI-аргумент или конфиг.
|
передаётся `CPUExecutionProvider`, независимо от доступных providers. CUDA,
|
||||||
|
OpenVINO и FasterWhisper CPU доступны через явный CLI-аргумент или конфиг.
|
||||||
|
Подключение CUDA описано в [ADR-001](001-cuda-bootstrap.md).
|
||||||
|
|
||||||
GigaAM понимает только русскую речь, поэтому для остальных языков автоматический
|
GigaAM понимает только русскую речь, поэтому для остальных языков автоматический
|
||||||
профиль не годится — нужен явный Whisper. Несовместимый язык работу не
|
профиль не годится — нужен явный Whisper. Несовместимый язык работу не
|
||||||
|
|||||||
@@ -5,7 +5,6 @@
|
|||||||
- Основной remote: `origin`
|
- Основной remote: `origin`
|
||||||
- Gitea: `https://git.dementev.space`
|
- Gitea: `https://git.dementev.space`
|
||||||
- CLI: `tea`
|
- CLI: `tea`
|
||||||
- Remote `github` является зеркалом и не используется для управления задачами
|
|
||||||
- Внешние pull request не входят в очередь triage
|
- Внешние pull request не входят в очередь triage
|
||||||
|
|
||||||
## Доступ
|
## Доступ
|
||||||
|
|||||||
@@ -0,0 +1,125 @@
|
|||||||
|
# Бенчмарк: качество и скорость транскрипции
|
||||||
|
|
||||||
|
**Дата**: 2026-03-23
|
||||||
|
|
||||||
|
**Статус:** архив. Перенесено из ветки `feature/amd-acceleration`; конфигурации бэкендов и умолчания с тех пор изменились (ONNX CPU по умолчанию, см. ADR-003).
|
||||||
|
|
||||||
|
## Цель
|
||||||
|
|
||||||
|
Сравнить качество распознавания нашего приложения (local-transcriber) с облачным
|
||||||
|
сервисом Whisper.ai, подобрать оптимальную конфигурацию бэкенд/модель/compute_type.
|
||||||
|
|
||||||
|
## Тестовый стенд
|
||||||
|
|
||||||
|
- **CPU**: AMD Ryzen 7 8845H w/ Radeon 780M (3.80 GHz), 8 ядер
|
||||||
|
- **GPU**: нет NVIDIA (нет CUDA), есть встроенный Radeon 780M iGPU + Ryzen AI NPU (XDNA)
|
||||||
|
- **ОС**: Windows 11 Enterprise
|
||||||
|
- **Запись**: совещание 3 участников, 14:41, русский язык, микрофон ноутбука
|
||||||
|
|
||||||
|
## Конфигурации
|
||||||
|
|
||||||
|
| # | Модель | Бэкенд | compute_type | Устройство |
|
||||||
|
|---|--------|--------|--------------|------------|
|
||||||
|
| 1 | medium | OpenVINO | fp16 | CPU |
|
||||||
|
| 2 | large-v3 | OpenVINO | fp16 | CPU |
|
||||||
|
| 3 | medium | CTranslate2 (faster-whisper) | float32 | CPU |
|
||||||
|
| 4 | medium | CTranslate2 (faster-whisper) | int8_float32 | CPU |
|
||||||
|
| 5 | — | Whisper.ai (облако) | — | — |
|
||||||
|
|
||||||
|
## Результаты: скорость
|
||||||
|
|
||||||
|
| # | Конфигурация | Время, с | Коэфф. к реалтайму (14:41 = 881с) |
|
||||||
|
|---|---|---|---|
|
||||||
|
| 1 | medium, OpenVINO fp16 | **~240** | 0.27x |
|
||||||
|
| 2 | large-v3, OpenVINO fp16 | ~503 | 0.57x |
|
||||||
|
| 4 | medium, CT2 int8_float32 | ~599 | 0.68x |
|
||||||
|
| 3 | medium, CT2 float32 | ~881 | 1.0x |
|
||||||
|
|
||||||
|
## Результаты: качество
|
||||||
|
|
||||||
|
Для оценки выбраны маркерные фразы — технические термины, сложная разговорная речь,
|
||||||
|
имена собственные. Каждый маркер проверен вручную по контексту записи.
|
||||||
|
|
||||||
|
### Техтермины (английские в русской речи)
|
||||||
|
|
||||||
|
| Термин | #1 OV fp16 | #2 large OV | #3 CT2 f32 | #4 CT2 int8f32 | #5 Whisper.ai |
|
||||||
|
|--------|-----------|-------------|------------|----------------|---------------|
|
||||||
|
| DWH | ✅ DWH | ❌ ДВХ | ⚠️ ДВХ | ✅ DWH | ⚠️ dvh |
|
||||||
|
| Teradata | ✅ TeraData | ⚠️ тирадат | ⚠️ Тирадату | ✅ Teradata | ⚠️ тирадата |
|
||||||
|
| NiFi | ✅ NiFi | ❌ "на файл" | ⚠️ Найфай | ✅ NiFi | ⚠️ фай |
|
||||||
|
| FineBI | ✅ fineBI | ❌ "фанбой" | ✅ FNBI | ✅ finebi/FNBI | ⚠️ FineBI/NBI |
|
||||||
|
| Alation | ❌ "лэйшене" | ❌ "валаши" | ✅ Allation | ✅ Allation | ✅ Allation |
|
||||||
|
| ETL | ❌ ETA | ❌ "и ты или" | ✅ ETL | ✅ ETL | ✅ ETL |
|
||||||
|
| DBC Tables V | ✅ | ❌ "деби си" | ✅ | ✅ | ✅ |
|
||||||
|
| OpenLineage | ⚠️ OpenLinage | ⚠️ "open lineage и о" | ✅ OpenLinage.io | ✅ OpenLinage.io | ✅ Open Lineage.io |
|
||||||
|
|
||||||
|
### Русская разговорная речь
|
||||||
|
|
||||||
|
| Фраза (правильно) | #1 OV fp16 | #2 large OV | #3 CT2 f32 | #4 CT2 int8f32 | #5 Whisper.ai |
|
||||||
|
|--------------------|-----------|-------------|------------|----------------|---------------|
|
||||||
|
| "на другую мониторочку" | ❌ "другом не торчка" | ❌ "другому и" | ✅ "мониторчику" | ⚠️ "мою точку" | ✅ "мониторочку" |
|
||||||
|
| "верхнеуровневое" | ⚠️ "верхверх верхне..." | ✅ | ✅ | ✅ | ✅ |
|
||||||
|
| "датарентген" | ❌ "госпиталин ген" | ❌ "господа тренды" | ✅ "даторентген" | ✅ "даторентген" | ✅ "датарентген" |
|
||||||
|
| "девовские схемы" | ✅ | ❌ "девушки схемы" | ✅ | ✅ | ✅ |
|
||||||
|
| "с накиданными правами" | ✅ | ❌ "накиданных бровами" | ✅ | ✅ | ✅ |
|
||||||
|
| "Вьюхи" | ❌ "в юхе" | — | ✅ "Вьюхи" | ⚠️ "Yuhi" | ❌ "в юхе" |
|
||||||
|
|
||||||
|
### Структура и пунктуация
|
||||||
|
|
||||||
|
| Аспект | #1 OV fp16 | #2 large OV | #3 CT2 f32 | #4 CT2 int8f32 | #5 Whisper.ai |
|
||||||
|
|--------|-----------|-------------|------------|----------------|---------------|
|
||||||
|
| Пунктуация | слабая | слабая | хорошая | хорошая | средняя |
|
||||||
|
| Длина сегментов | ~1 мин | ~1 мин | ~1 мин | ~1 мин | 2–30 сек |
|
||||||
|
| Диаризация | нет | нет | нет | нет | есть (условная) |
|
||||||
|
|
||||||
|
## Ключевые выводы
|
||||||
|
|
||||||
|
### 1. OpenVINO fp16 ухудшает качество medium
|
||||||
|
|
||||||
|
OpenVINO даёт **3.7x ускорение**, но fp16-квантизация на CPU вносит заметные ошибки
|
||||||
|
в распознавание нечёткой русской речи ("госпиталин ген", "ETA"). При этом английские
|
||||||
|
техтермины (DWH, NiFi, FineBI) распознаются хорошо — видимо, они более «чёткие»
|
||||||
|
акустически.
|
||||||
|
|
||||||
|
### 2. large-v3 через OpenVINO — хуже medium
|
||||||
|
|
||||||
|
Удивительный результат: large-v3 с OpenVINO fp16 деградировал по всем параметрам.
|
||||||
|
FineBI → "фанбой", NiFi → "на файл", девовские → "девушки". Гипотеза: fp16 на CPU
|
||||||
|
бьёт сильнее по большим моделям из-за накопления ошибок округления.
|
||||||
|
|
||||||
|
### 3. CTranslate2 float32 — лучшее качество
|
||||||
|
|
||||||
|
Сравнимо с облачным Whisper.ai, а на некоторых маркерах лучше (Вьюхи, DWH).
|
||||||
|
Но **3.7x медленнее** OpenVINO — неприемлемо для длинных записей.
|
||||||
|
|
||||||
|
### 4. int8_float32 — оптимальный баланс
|
||||||
|
|
||||||
|
Mixed precision (int8 матрицы, float32 аккумулятор) даёт:
|
||||||
|
- **1.5x ускорение** vs float32 (599с vs 881с)
|
||||||
|
- Качество практически идентичное float32
|
||||||
|
- Техтермины DWH/Teradata/NiFi даже лучше, чем у float32
|
||||||
|
|
||||||
|
### 5. Whisper.ai — диаризация как преимущество
|
||||||
|
|
||||||
|
Единственное значимое преимущество облачного сервиса — диаризация спикеров.
|
||||||
|
По качеству распознавания наше приложение с CT2 int8_float32 на уровне или лучше.
|
||||||
|
|
||||||
|
## Рекомендации
|
||||||
|
|
||||||
|
### Краткосрочно
|
||||||
|
|
||||||
|
- **Дефолт для CPU без CUDA**: рассмотреть `int8_float32` вместо `float32` — 1.5x быстрее
|
||||||
|
при сопоставимом качестве.
|
||||||
|
- **OpenVINO fp16 оставить** как быстрый вариант — для случаев, когда скорость важнее
|
||||||
|
точности (превью, черновые транскрипты).
|
||||||
|
|
||||||
|
### Среднесрочно
|
||||||
|
|
||||||
|
- **DirectML бэкенд** для AMD Radeon iGPU — через onnxruntime-directml можно задействовать
|
||||||
|
Radeon 780M. Float16 на GPU (в отличие от CPU-квантизации) не должен терять качество.
|
||||||
|
Потенциально 3–5x ускорение при сохранении качества float32.
|
||||||
|
|
||||||
|
### Долгосрочно
|
||||||
|
|
||||||
|
- **Ryzen AI NPU (XDNA)** — AMD развивает поддержку, но tooling пока сырой.
|
||||||
|
- **Диаризация** — добавить идентификацию спикеров (pyannote-audio или аналоги).
|
||||||
@@ -0,0 +1,292 @@
|
|||||||
|
# CPU-диаризация: Intel-этап эксперимента
|
||||||
|
|
||||||
|
**Дата:** 2026-08-31
|
||||||
|
**Статус:** `handoff`; в Ryzen-этап передается один кандидат. Production-профиль не менялся.
|
||||||
|
|
||||||
|
## Итог
|
||||||
|
|
||||||
|
На Intel Core i7-6820HQ пройдены этапы 0-4 эксперимента из
|
||||||
|
[спецификации](../specs/2026-08-30-cpu-diarization-experiment.md). Для Ryzen
|
||||||
|
передается комбинация C2:
|
||||||
|
|
||||||
|
- `window_shift_ratio=0.1`;
|
||||||
|
- Pyannote Segmentation 3.0 FP32;
|
||||||
|
- WeSpeaker ResNet34 LM FP32;
|
||||||
|
- текущий `FastClustering` с порогом `0.89`;
|
||||||
|
- два outer worker, одна общая ONNX Runtime session, общий пул из четырех
|
||||||
|
intra-op потоков, `inter_op_threads=1`.
|
||||||
|
|
||||||
|
C2 сохранила результат baseline по всем обязательным и диагностическим
|
||||||
|
показателям: `3 / 2 / 2` кластера, та же последовательность слов, те же числа
|
||||||
|
слов без говорящего `51 / 13 / 9` и та же `mapped speaker purity`. Один прогон
|
||||||
|
трех фрагментов занял 140,632 с против 146,978 с у соседнего baseline:
|
||||||
|
ускорение 4,32%. Пиковый RSS вырос с 376,4 до 406,0 МиБ. Порог продолжения на
|
||||||
|
Intel не достигнут. Разница неотличима от наблюдаемого разброса
|
||||||
|
одиночных запусков: контрольные baseline в разных сериях лежали в диапазоне
|
||||||
|
146,978-157,892 с, то есть шире, чем разница между W0 и C2.
|
||||||
|
Спецификация при этом разрешает передать работоспособный механизм shared-session
|
||||||
|
как аппаратного кандидата для отдельного A/B на Ryzen. Результат 4,32% остается
|
||||||
|
диагностическим наблюдением; оценивать по нему ожидаемое ускорение нельзя.
|
||||||
|
|
||||||
|
CAMPPlus + NME оказался самым быстрым вариантом: C1 заняла 98,347 с и
|
||||||
|
сохранила `3 / 2 / 2`. Но на одной записи число слов без говорящего
|
||||||
|
выросло с 51 до 53. Для такого изменения спецификация требует слуховой проверки
|
||||||
|
отмеченных мест до сборки комбинации. Материал для нее подготовлен, но в этом
|
||||||
|
окружении прослушивание недоступно. Поэтому C1 измерена и описана, но в handoff
|
||||||
|
не включена.
|
||||||
|
|
||||||
|
## Зачем понадобился sherpa-onnx 1.13.6
|
||||||
|
|
||||||
|
Версия стенда поднята с `1.13.5` до `1.13.6`. В ней публичная Python-конфигурация
|
||||||
|
сегментации получила `window_shift_ratio`, необходимый для этапа W0-W4. Свежий
|
||||||
|
контрольный прогон обеих версий дал одинаковые `3 / 2 / 2` кластера, числа слов
|
||||||
|
без говорящего `51 / 13 / 9` и purity `0,76655 / 0,78742`. Каноническая сверка
|
||||||
|
интервалов и назначения говорящих словам вынесена в отдельную проверку по сырым
|
||||||
|
результатам капсулы; расхождений, требующих прослушивания, не обнаружено. Время
|
||||||
|
одного прогона составило 190,104 с для `1.13.5` и 157,892 с для `1.13.6`; это
|
||||||
|
диагностическое сравнение без повторов, а не самостоятельное доказательство
|
||||||
|
ускорения версии.
|
||||||
|
|
||||||
|
Экспериментальные `Prepare/Finalize` и общий worker API в `1.13.6` отсутствуют.
|
||||||
|
Их нет и в проверенном актуальном upstream `master` sherpa-onnx от 2026-08-31.
|
||||||
|
Для эксперимента собран локальный патч и wheel:
|
||||||
|
|
||||||
|
| Артефакт | SHA-256 |
|
||||||
|
|---|---|
|
||||||
|
| Патч sherpa-onnx 1.13.6 | `5f12df858cd525c8a0cfe8ff95b647c3b0e915a13d45621acc4ac42660014c49` |
|
||||||
|
| Wheel CPython 3.13, Linux x86_64 | `306499d8668ee138357f1de43a5c1c88f4dc46c845e8a92e6ad945327bcaa050` |
|
||||||
|
|
||||||
|
Проверка патча на реальной модели подтвердила, что worker владеет подготовленным
|
||||||
|
состоянием. Копирование матрицы и одноразовая финализация работают корректно;
|
||||||
|
штатный `process()` точно совпадает с цепочкой
|
||||||
|
`Prepare -> cluster(copy) -> Finalize`. Один и два worker дали одинаковые
|
||||||
|
строки, метки и итоговые интервалы без пропусков и дублей.
|
||||||
|
|
||||||
|
## Условия
|
||||||
|
|
||||||
|
- Intel Core i7-6820HQ, 4 физических ядра / 8 логических процессоров;
|
||||||
|
- 32 181 526 528 байт RAM, x86_64, AVX2; VNNI и AVX-512 отсутствуют;
|
||||||
|
- Linux 7.0.0-30-generic, Python 3.13.13;
|
||||||
|
- `sherpa-onnx` 1.13.6, ONNX Runtime 1.28.0, NumPy 2.4.3;
|
||||||
|
- питание от сети, системный профиль `balanced`, governor `powersave`, turbo
|
||||||
|
включен;
|
||||||
|
- первая попытка финального W0 отбракована из-за swap-in; повторная попытка W0
|
||||||
|
и первая попытка C2 прошли runtime guard. В принятых попытках W0 нагрел CPU
|
||||||
|
с 80 до 85 C, C2 - с 80 до 82 C; power limits, throttle count и swap I/O
|
||||||
|
не изменились;
|
||||||
|
- три контрольных фрагмента по 300 с, ожидаемые кластеры `3 / 2 / 2`;
|
||||||
|
- один запуск каждой исследовательской ячейки и одна соседняя пара W0/C2 под
|
||||||
|
runtime guard; ASR-sidecar подготовлены заранее и во время ячейки не учитывались.
|
||||||
|
|
||||||
|
Измеряемый интервал включает полную диаризацию фрагмента. Для E3 отдельно
|
||||||
|
помечена составная оценка, потому что независимые session измерялись на заранее
|
||||||
|
подготовленных заданиях.
|
||||||
|
|
||||||
|
## Идентификаторы прогона
|
||||||
|
|
||||||
|
- source commit: `6345cb6449d906767b6ed33e695f2ca4eeaf3008`;
|
||||||
|
- experiment ID: `457dffbb690516a2b38ee1331a3939664ada3a0c4ade638eab6b7c5270b17f4e`;
|
||||||
|
- capsule ID: `intel-41-5de5f454`;
|
||||||
|
- SHA-256 scheduler output:
|
||||||
|
`14c5aa1d3131f9bd324c77d4c3bf315772e6374835f28863c5db45fc27ab5ce5`.
|
||||||
|
|
||||||
|
Manifest оставляет исследовательские ячейки в матрице как уже измеренные и
|
||||||
|
выключенные, а через scheduler повторяет только финальную соседнюю пару:
|
||||||
|
|
||||||
|
| Ячейка | Позиция | Cell ID | Статус в финальном плане |
|
||||||
|
|---|---:|---|---|
|
||||||
|
| W0 | 1 | `68360310692540e5df2640e3d653c12b91c6acaedfae56170e6ce74ecea12af2` | сырой результат сохранен |
|
||||||
|
| W1 | 2 | `e170c9a1808c8e1c6c824381dca39495740ba2526725c280e7a9aed115bc7a36` | сырой результат сохранен |
|
||||||
|
| W2 | 3 | `8e4283a6ae8bae62e7397e83870afd1d0706816e1e123c012d2b3ae795f4c7d4` | сырой результат сохранен |
|
||||||
|
| W3 | 4 | `46d81148e1c3eca15e6f8c1eacce41556db90a5e07429acf1ba4292103996845` | сырой результат сохранен |
|
||||||
|
| W4 | 5 | `eab104a305dc192847c16786de6cfa81f9a90bb9a80dc91627d439af4eb5d39d` | сырой результат сохранен |
|
||||||
|
| M0 | 10 | `206a1a7821cb29dfe86d19e45ff665ac6f143aad3a1b79419987162097973208` | сырой результат сохранен |
|
||||||
|
| M2 | 11 | `17559e0b25df2ca77a25d93b2238e9a726ac2ab123d11ec6ddcb9de51b298e9c` | сырой результат сохранен |
|
||||||
|
| M3 | 12 | `c5a5d9eb45172caeb5a4d476463f0a783d6337312aab6ef7177f2a6dfcca53d2` | сырой результат сохранен |
|
||||||
|
| Q0 | 20 | `386b2b9ba686466bf4603dda51222e7cdd6324061a68babed339db3e8e6a09dc` | сырой результат сохранен |
|
||||||
|
| Q1 | 21 | `e1cee039ce5c65ea91004df99eaefff50b02ce1c40a8f53eba34a234522a0e3f` | сырой результат сохранен |
|
||||||
|
| E1 | 30 | `4175101fcb0abbc6f4f46caa87273c431ce5fab61620493b13df4ed18f05f29d` | сырой результат сохранен |
|
||||||
|
| E0 для E1 | 31 | `9f59ab52ffd188da28f94233f13a19a297568e7c1e754c2a9e09157bca10ad85` | сырой результат сохранен |
|
||||||
|
| E0 для E2 | 32 | `c349a249896faeddc06356fd671ff2505bc2a89075ea7b2407964d6afae90232` | сырой результат сохранен |
|
||||||
|
| E2 | 33 | `1aba4e138f3cdfd675cf411b485cfd5a01c3166d4ae893a779d88c75fa1f53c2` | сырой результат сохранен |
|
||||||
|
| E3 | 34 | `6d2af928e2270eea37735ab39314b050fd520911cc07ba2303016ab657dd610a` | сырой результат сохранен |
|
||||||
|
| E0 для E3 | 35 | `c55eac6d19ea7741debb02a1b602782dc0332bafe72323ea54651845416d4b6f` | сырой результат сохранен |
|
||||||
|
| C1 | 40 | `3898cd41f6dc7d50bed245bfa6ec945c700a7fad67ac3f2e7f950d864a9ac9de` | исключена |
|
||||||
|
| W0 для C2 | 50 | `44a6ce169f9566088376b0f6139f6823783baff481edd8741e39690534c6c47d` | выполнена, baseline |
|
||||||
|
| C2 | 51 | `90ad304d332efa4742490f3a4a40cfb7e3422dfa85a22fbf254c7f4900b4a51f` | выполнена, handoff |
|
||||||
|
|
||||||
|
TitaNet batch 1/4 остался отдельным mechanism smoke и в финальную A/B-матрицу
|
||||||
|
не входит.
|
||||||
|
|
||||||
|
## Этап 0: механизмы
|
||||||
|
|
||||||
|
`Prepare/Finalize`, общий worker и строгая схема manifest v3 прошли smoke-тесты.
|
||||||
|
Для CAMPPlus и TitaNet на одних и тех же подготовленных матрицах сравнивались
|
||||||
|
eigengap и NME:
|
||||||
|
|
||||||
|
| Модель | Строки матриц | Eigengap, N | NME, N | Выбор |
|
||||||
|
|---|---|---|---|---|
|
||||||
|
| CAMPPlus | `531 / 414 / 440` | `6 / 1 / 7` | `3 / 2 / 2` | NME |
|
||||||
|
| TitaNet small | `531 / 414 / 440` | `7 / 2 / 4` | `3 / 2 / 2` | NME |
|
||||||
|
|
||||||
|
Ни одна матрица не потеряла строки. Повторный запуск счетчика и штатная
|
||||||
|
финализация дали одинаковые параметры и метки.
|
||||||
|
|
||||||
|
WeSpeaker S8S8 QDQ построен на 48 интервалах отдельной записи. Manifest хранит
|
||||||
|
исходный SHA-256 и точный интервал каждого элемента. Граф сохранил интерфейс,
|
||||||
|
opset и метаданные, прошел ONNX checker, динамические входные длины в ONNX
|
||||||
|
Runtime и загрузку через sherpa-onnx. SHA-256 графа:
|
||||||
|
`9a3f8ae64d1083b64a6276f1e1138b17b7511a9a8d731b632945efc84098588b`.
|
||||||
|
|
||||||
|
## Этап 1: шаг окна
|
||||||
|
|
||||||
|
| Ячейка | Шаг | Время, с | Кластеры | Качество | Решение |
|
||||||
|
|---|---:|---:|---|:---:|---|
|
||||||
|
| W0 | 0,10 | 148,220 | `3 / 2 / 2` | да | baseline |
|
||||||
|
| W1 | 0,15 | 100,799 | `2 / 2 / 2` | нет | исключен |
|
||||||
|
| W2 | 0,20 | 76,127 | `2 / 2 / 2` | нет | исключен |
|
||||||
|
| W3 | 0,25 | 61,369 | `2 / 2 / 2` | нет | исключен |
|
||||||
|
| W4 | 0,50 | 31,291 | `1 / 2 / 2` | нет | исключен |
|
||||||
|
|
||||||
|
Сокращение числа окон объясняет ускорение, но все увеличенные шаги потеряли
|
||||||
|
кластер на первой записи. Рабочим остался `0.1`; C0 совпал бы с baseline и
|
||||||
|
поэтому не запускался.
|
||||||
|
|
||||||
|
## Этапы 2-3: модели и исполнение
|
||||||
|
|
||||||
|
| Ветвь | Время, с | Изменение к W0 | Пиковый RSS, МиБ | Кластеры | Решение |
|
||||||
|
|---|---:|---:|---:|---|---|
|
||||||
|
| M2, CAMPPlus + NME | 94,550 | -36,21% | 358,6 | `3 / 2 / 2` | самая быстрая; нужна слуховая проверка |
|
||||||
|
| M3, TitaNet + NME | 107,205 | -27,67% | 511,9 | `3 / 2 / 2` | прошел, но слабее M2 |
|
||||||
|
| QDQ WeSpeaker | 177,537 | +19,78% | 367,7 | `2 / 2 / 2` | исключен по качеству |
|
||||||
|
| E1, shared 2 x pool 4 | 139,219 | -6,07% | 398,6 | `3 / 2 / 2` | допущен как аппаратный кандидат |
|
||||||
|
| E2, shared 4 x 1 | 152,167 | +2,66% | 551,2 | `3 / 2 / 2` | исключен по времени и памяти |
|
||||||
|
| E3, 4 отдельные session | 159,038 | +7,30% | 732,3 | `3 / 2 / 2` | отрицательный контроль |
|
||||||
|
|
||||||
|
Время E3 - составная оценка, а не прямое время штатного `process()`. RSS E3 -
|
||||||
|
максимум всего проверочного процесса: он включает штатную подготовку,
|
||||||
|
экспериментальные эмбеддинги и контрольную финализацию. Отдельный RSS только
|
||||||
|
embedding-этапа не измерялся. Даже эта завышенная оценка, включающая соседние
|
||||||
|
этапы, подтверждает ожидаемый рост памяти с числом session, поэтому E3 не стал
|
||||||
|
кандидатом.
|
||||||
|
|
||||||
|
У E1 и E2 метки, итоговые интервалы и диагностические показатели побайтово
|
||||||
|
совпали с последовательным вариантом. E1 выбран для C2 как более быстрый и
|
||||||
|
экономный режим.
|
||||||
|
|
||||||
|
TitaNet batch 1 воспроизвел штатные эмбеддинги с максимальным абсолютным
|
||||||
|
расхождением не больше `3,4e-6`. Batch 4 сохранил `3 / 2 / 2`, но поменял метки
|
||||||
|
строк на всех трех матрицах, дал дрейф эмбеддингов `0,277-0,317` и оказался
|
||||||
|
медленнее batch 1. Ветвь остановлена до CPU-ячейки.
|
||||||
|
|
||||||
|
## Этап 4: комбинации
|
||||||
|
|
||||||
|
| Комбинация | Рецепт | Время, с | Ускорение | RSS, МиБ | Диагностика | Handoff |
|
||||||
|
|---|---|---:|---:|---:|---|:---:|
|
||||||
|
| C1 | `0.1` + CAMPPlus + NME + sequential | 98,347 | 33,65% | 399,5 | purity выросла; `+2` слова без говорящего | нет |
|
||||||
|
| C2 | `0.1` + WeSpeaker FP32 + shared 2 x pool 4 | 140,632 | 4,32% | 406,0 | точное совпадение с W0 | да |
|
||||||
|
|
||||||
|
Процент C1 посчитан относительно одиночного W0 из этапа окна, 148,220 с; это не
|
||||||
|
соседняя A/B-пара. Процент C2 посчитан относительно соседнего W0 под runtime
|
||||||
|
guard, 146,978 с.
|
||||||
|
|
||||||
|
У C1 `mapped speaker purity` выросла с `0,76655 / 0,78742` до
|
||||||
|
`0,80137 / 0,91079`. Слова без говорящего изменились с `51 / 13 / 9` на
|
||||||
|
`53 / 13 / 9`. Без слухового решения это не считается пройденной диагностикой.
|
||||||
|
|
||||||
|
## Закрепленные модели
|
||||||
|
|
||||||
|
| Идентификатор | SHA-256 |
|
||||||
|
|---|---|
|
||||||
|
| Pyannote FP32 | `220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079` |
|
||||||
|
| WeSpeaker FP32 | `e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012` |
|
||||||
|
| WeSpeaker S8S8 QDQ | `9a3f8ae64d1083b64a6276f1e1138b17b7511a9a8d731b632945efc84098588b` |
|
||||||
|
| CAMPPlus | `aa3cfc16963a10586a9393f5035d6d6b57e98d358b347f80c2a30bf4f00ceba2` |
|
||||||
|
| TitaNet small | `ad4a1802485d8b34c722d2a9d04249662f2ece5d28a7a039063ca22f515a789e` |
|
||||||
|
|
||||||
|
## Индекс публичных доказательств
|
||||||
|
|
||||||
|
Хеши ниже связывают обезличенные агрегаты с сырыми файлами приватной капсулы,
|
||||||
|
не публикуя пути, текст или интервалы.
|
||||||
|
|
||||||
|
| Результат | SHA-256 | Окна по записям | Embedding-задания по записям |
|
||||||
|
|---|---|---|---|
|
||||||
|
| fresh 1.13.5 | `c53c1f970ee4db094779bc32b42f978c37c2cb74d814504ccfac87f09e802ddd` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| fresh 1.13.6 | `eb7e3d508836e1eefd679a851271eaa6823d688fef39d2ae03978e7fa7006bba` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| W0 | `32d513cd0e81fdca0e37484f86b5c4312d3573608493972a282302dd891cdf0e` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| W1 | `be8935b5a81e2aadaeb38540e615c0cd3ae5ac31d6e0949856fd7d16d31a78ea` | `195 / 195 / 195` | `357 / 274 / 302` |
|
||||||
|
| W2 | `f95433d516772d40c4071da0d0745b981314ee7a7063fb4a43518e94bc17848e` | `146 / 146 / 146` | `264 / 206 / 222` |
|
||||||
|
| W3 | `14cac4f1d8cd38ed5b4a20189438d2b1e109ba267c5feaa36f0928fbec848580` | `117 / 117 / 117` | `211 / 165 / 175` |
|
||||||
|
| W4 | `6fafefce00e90590ab2d834fb560413cd7780e20cbd1f631d9954ec8b97a540e` | `59 / 59 / 59` | `105 / 82 / 89` |
|
||||||
|
| M2, исправленный интервал | `3debc8ae5cf1bd13d806dbfe8e4cfa137d6705622a721f4a42f1a22c030ec277` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| M3, исправленный интервал | `531a842234e35e29f582ff8a51406fb9dd6211e017b3162d80cca21d4732d316` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| E1, исправленный интервал | `f5ac41d29eeff1f7cfbb93497a0025aef40de0838e933e0f9baed30a236d6b85` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| E2, исправленный интервал | `f2664d354ede1e4bf2c42b974513cdc845ff601c73f30ebae51456764fd8dcdc` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| C1, исправленный интервал | `4f96e6f7363e0edb79d4034a07f4d3b6b0003a820fcf6bceff5426bb3c2caff4` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| W0 для C2, canonical result | `e572dd057ec87514aca4617465c48ce361677ae19279efcadbbde404afc85b5d` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
| C2, canonical result | `d687074cc582e2ac379ed3375362f9480778feca02c7492a4c4be4fcc1a4f15a` | `291 / 291 / 291` | `531 / 414 / 440` |
|
||||||
|
|
||||||
|
Для W0 под runtime guard суммарное user/system CPU time равно
|
||||||
|
`584,590 / 0,590` с,
|
||||||
|
средний RTF по трем записям - `0,16331`. Для C1 эти значения равны
|
||||||
|
`406,230 / 1,050` с и `0,10927`; для C2 под runtime guard -
|
||||||
|
`667,580 / 0,960` с и
|
||||||
|
`0,15626`. У C2 повышенное CPU time отражает конкурентную работу двух stream,
|
||||||
|
а решение принимается по wall time.
|
||||||
|
|
||||||
|
Контрольные входы закреплены отдельно от результатов:
|
||||||
|
|
||||||
|
| Запись | SHA-256 media | SHA-256 ASR-sidecar | SHA-256 reference |
|
||||||
|
|---|---|---|---|
|
||||||
|
| control 1 | `1057616b42e8add00e0eb975b02bdef0ec9f6cdfec6dbf488e0c60423c9b7b87` | `3e190c060b2a9b0f4145249702d66b28c26e9b8518462000d368b431e22902bb` | - |
|
||||||
|
| control 2 | `51866d247fe3eda134cdd884f707b1f1db8855b492e8bd14d2b56b62476255ed` | `f8ce6e25d0ce7999b2d3c31c7ca9fc5f721b8925334362729eed06552296bdb5` | `9098548743a86f868dfcdd906bcde34ed1ce5a935602cbe399f4bceda8685b3c` |
|
||||||
|
| control 3 | `4422f04e2771091a0648e5422d14a31dd7ca2c8eef7ed9f4a5c63f43d8ca6400` | `eca10e7b232a211ce53decfc1a449c8ce2ae482dd7bc67c7aa9a267b12a2582d` | `dc2db5925c98ea7029bf52ad9cd7cc332d0084b91118a3d58336058f619d3d9a` |
|
||||||
|
|
||||||
|
Для CAMPPlus NME выбрал `p=111 / 54 / 104`; время счетчика составило
|
||||||
|
`3,536 / 1,488 / 1,148` с. Для TitaNet - `p=90 / 65 / 110` и
|
||||||
|
`1,084 / 0,780 / 1,112` с. Все шесть результатов дали ожидаемое N,
|
||||||
|
повторяемые метки и ноль потерянных строк.
|
||||||
|
|
||||||
|
## Воспроизведение на Ryzen
|
||||||
|
|
||||||
|
После проверки commit и внешнего SHA-256 приватной капсулы:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uv sync --frozen
|
||||||
|
uv pip install --python .venv/bin/python --reinstall \
|
||||||
|
/path/to/capsule/build/sherpa_onnx-1.13.6-cp313-cp313-linux_x86_64.whl
|
||||||
|
export LOCAL_TRANSCRIBER_EXPERIMENT_BUILD_SHA256=\
|
||||||
|
306499d8668ee138357f1de43a5c1c88f4dc46c845e8a92e6ad945327bcaa050
|
||||||
|
uv run python scripts/benchmarks/diarization_calibration.py \
|
||||||
|
--capsule /path/to/original-capsule.zip \
|
||||||
|
--capsule-sha256 CAPSULE_SHA256_FROM_HANDOFF \
|
||||||
|
--manifest /path/to/capsule/manifest.json \
|
||||||
|
--validate-only
|
||||||
|
```
|
||||||
|
|
||||||
|
`--validate-only` должен вернуть schema v3, этап `intel`, пустой список
|
||||||
|
предупреждений и `qdq_available=true`. Затем Ryzen-агент создает свой manifest
|
||||||
|
этапа `ryzen`, указывает Intel commit как `handoff_commit` и выполняет
|
||||||
|
изолированный E1 A/B перед первичным A/B C2. Экспериментальный wheel совместим
|
||||||
|
только с CPython 3.13 на Linux x86_64; на другой платформе его нужно пересобрать
|
||||||
|
из патча с тем же SHA-256.
|
||||||
|
|
||||||
|
Приватная капсула содержит manifest, исходные записи, ASR-sidecar, опорную
|
||||||
|
разметку, калибровочные данные, созданные модельные артефакты, сырые результаты,
|
||||||
|
worker requests и журналы. Эти файлы не входят в Git и не передаются внешним
|
||||||
|
ревьюерам.
|
||||||
|
|
||||||
|
## Ограничения
|
||||||
|
|
||||||
|
- У каждой ячейки один прогон. Проценты не оценивают дисперсию, прогрев и
|
||||||
|
температурный дрейф.
|
||||||
|
- Ранние ячейки запускались не чередующимися парами, поэтому полного A/B не
|
||||||
|
образуют. Финальные механизмы на Ryzen следует проверять только чередующимися
|
||||||
|
парами из спецификации.
|
||||||
|
- Сравнение sherpa-onnx 1.13.5 и 1.13.6 показывает равенство качества, но разницу
|
||||||
|
времени нельзя приписывать одной версии без повторов.
|
||||||
|
- C1 нельзя возвращать в матрицу без слуховой проверки подготовленных мест.
|
||||||
|
- Полные записи и приемка пяти слуховых категорий относятся к Ryzen-этапу после
|
||||||
|
выбора финалиста.
|
||||||
|
- Вывод относится к одному Intel Core i7-6820HQ без VNNI/AVX-512. Результаты
|
||||||
|
QDQ и shared-session нельзя переносить на Ryzen без собственного A/B.
|
||||||
@@ -0,0 +1,328 @@
|
|||||||
|
# CPU-диаризация: Ryzen-этап эксперимента
|
||||||
|
|
||||||
|
**Дата:** 2026-08-31
|
||||||
|
**Статус:** `new map`; C2 прошла проверки качества и памяти, но не достигла
|
||||||
|
итогового порога ускорения 30%, а более быстрые ветви Intel уперлись в качество.
|
||||||
|
Production-профиль не менялся.
|
||||||
|
|
||||||
|
## Итог
|
||||||
|
|
||||||
|
На AMD Ryzen 7 8845H выполнен этап 5 эксперимента из
|
||||||
|
[спецификации](../specs/2026-08-30-cpu-diarization-experiment.md) по единственному
|
||||||
|
кандидату C2 из [Intel-этапа](2026-08-31-cpu-diarization-intel.md). Этап 6 не
|
||||||
|
запускали: победителя нет. C2 сохраняет `window_shift_ratio=0.1`, Pyannote
|
||||||
|
Segmentation 3.0 FP32, WeSpeaker ResNet34 LM FP32 и `FastClustering(0.89)`.
|
||||||
|
Embedding-вызовы выполняют два outer worker через одну общую ONNX Runtime
|
||||||
|
session с общим пулом из восьми intra-op потоков; `inter_op_threads=1`.
|
||||||
|
|
||||||
|
Изолированный A/B механизма shared-session дал ускорение 24,05%. Первичный A/B
|
||||||
|
C2 показал 22,90%, поэтому кандидат прошел порог продолжения 10%, и для него
|
||||||
|
запустили пять чередующихся циклов. Они дали медиану 23,57% при MAD 0,62
|
||||||
|
процентного пункта, то есть ниже итогового порога 30%; по одному Ryzen-кандидату
|
||||||
|
C2 итог был бы `stop`.
|
||||||
|
|
||||||
|
Вся воронка дала `new map`. W1-W4 потеряли обязательное число кластеров. C1 с
|
||||||
|
CAMPPlus + NME ускорила Intel-прогон на 33,65%, но оставила два дополнительных
|
||||||
|
слова без говорящего; требуемую слуховую проверку не проводили и автоматической
|
||||||
|
оценкой не подменяли. Поэтому C1 не передавали на Ryzen и не считаем победителем.
|
||||||
|
Вернуть ее в матрицу можно только после приватной слуховой проверки.
|
||||||
|
|
||||||
|
Все принятые ячейки прошли обязательное качество: `3 / 2 / 2` кластера,
|
||||||
|
неизменный текст, `51 / 13 / 9` слов без говорящего, те же значения
|
||||||
|
`mapped speaker purity` `0,76655 / 0,78742`, `291 / 291 / 291` segmentation-окон
|
||||||
|
и `531 / 414 / 440` embedding-заданий. Потерь или дублей prepared-строк не было.
|
||||||
|
Пиковый RSS C2 оставался в диапазоне 410,3-418,1 МиБ; OOM, активности swap и
|
||||||
|
линейного роста памяти не наблюдалось.
|
||||||
|
|
||||||
|
Полные записи и слуховая приемка по пяти категориям на этапе 6 не запускались.
|
||||||
|
|
||||||
|
## Что именно проверяли
|
||||||
|
|
||||||
|
Отчет охватывает всю воронку: этапы 0-4 на Intel и этап 5 на Ryzen. На Intel
|
||||||
|
проверили шаг окна, модели эмбеддингов, счетчик говорящих, квантизацию, способы
|
||||||
|
параллельного исполнения и две комбинации. Таблицы ниже собирают этот путь в
|
||||||
|
одном месте. Подробные хеши и исходные идентификаторы ячеек остаются в
|
||||||
|
[Intel-отчете](2026-08-31-cpu-diarization-intel.md).
|
||||||
|
|
||||||
|
Intel-ячейки W/M/E/C были разведочными одиночными прогонами трех пятиминутных
|
||||||
|
фрагментов. Они показывают направление и причину отсева, но не дисперсию.
|
||||||
|
Исключение - соседняя пара W0/C2 под runtime guard. На Ryzen сначала выполнялась
|
||||||
|
одна диагностическая пара, затем первичная пара C2 и только после прохождения
|
||||||
|
порога - пять чередующихся циклов.
|
||||||
|
|
||||||
|
### Этап 0: пригодность механизмов
|
||||||
|
|
||||||
|
До дорогих CPU-ячеек проверили, что экспериментальный стенд вообще измеряет
|
||||||
|
задуманные механизмы, не теряя строки и не меняя пользовательский результат.
|
||||||
|
|
||||||
|
| Гипотеза | Что проверяли | Что получилось | Решение |
|
||||||
|
|---|---|---|---|
|
||||||
|
| `Prepare/Finalize` | Подготовка один раз, кластеризация копии матрицы и финализация | Результат совпал со штатным `process()`; пропусков и дублей строк нет | Использовать в стенде |
|
||||||
|
| Счетчик eigengap | CAMPPlus и TitaNet на матрицах `531 / 414 / 440` строк | CAMPPlus дал `6 / 1 / 7`, TitaNet - `7 / 2 / 4` вместо `3 / 2 / 2` | Исключить |
|
||||||
|
| Счетчик NME | Те же шесть матриц без повторного embedding-инференса | Обе модели дали `3 / 2 / 2`; метки повторяемы, потерянных строк нет | Использовать для M2 и M3 |
|
||||||
|
| WeSpeaker S8S8 QDQ | Схема, opset, метаданные, динамические длины и загрузка через sherpa-onnx | Граф технически корректен; качество и скорость проверены отдельно в Q1 | Допустить к CPU-ячейке |
|
||||||
|
| Shared-session worker | Один и два worker на одном наборе prepared-входов | Строки, метки и интервалы совпали; гонок и нечисловых значений нет | Допустить E1/E2 |
|
||||||
|
|
||||||
|
Задача этапа 0 - подтвердить, что последующие CPU-ячейки сравнивают одинаковые
|
||||||
|
вычисления и используют исправный экспериментальный API. Скорость измеряли на
|
||||||
|
следующих этапах.
|
||||||
|
|
||||||
|
### Этап 1: можно ли считать меньше окон
|
||||||
|
|
||||||
|
Гипотеза: увеличить `window_shift_ratio`, сократить число segmentation-окон и
|
||||||
|
вместе с ними число embedding-заданий. Все варианты использовали Pyannote
|
||||||
|
Segmentation 3.0 FP32, WeSpeaker FP32 и текущий `FastClustering(0.89)`.
|
||||||
|
|
||||||
|
| Ячейка | Шаг | Окна по трем фрагментам | Embedding-задания | Время, с | Кластеры | Решение |
|
||||||
|
|---|---:|---|---|---:|---|---|
|
||||||
|
| W0 | 0,10 | `291 / 291 / 291` | `531 / 414 / 440` | 148,220 | `3 / 2 / 2` | baseline |
|
||||||
|
| W1 | 0,15 | `195 / 195 / 195` | `357 / 274 / 302` | 100,799 | `2 / 2 / 2` | исключена: потерян кластер |
|
||||||
|
| W2 | 0,20 | `146 / 146 / 146` | `264 / 206 / 222` | 76,127 | `2 / 2 / 2` | исключена: потерян кластер |
|
||||||
|
| W3 | 0,25 | `117 / 117 / 117` | `211 / 165 / 175` | 61,369 | `2 / 2 / 2` | исключена: потерян кластер |
|
||||||
|
| W4 | 0,50 | `59 / 59 / 59` | `105 / 82 / 89` | 31,291 | `1 / 2 / 2` | исключена: потеряны два кластера |
|
||||||
|
|
||||||
|
Скорость росла именно вместе с сокращением работы, но даже осторожный W1
|
||||||
|
нарушил обязательное качество на первой записи. Рабочим остался шаг `0.1`.
|
||||||
|
Комбинация C0 совпала бы с baseline, поэтому ее не запускали.
|
||||||
|
|
||||||
|
### Этап 2: можно ли удешевить модель эмбеддингов
|
||||||
|
|
||||||
|
Гипотеза: сохранить полный набор окон, но заменить WeSpeaker и при необходимости
|
||||||
|
счетчик говорящих. В M2 и M3 сохраняли `window_shift_ratio=0.1`, Pyannote
|
||||||
|
Segmentation 3.0 FP32 и последовательный инференс. Менялись модель эмбеддингов и
|
||||||
|
счетчик говорящих. Проценты ниже посчитаны относительно W0 148,220 с.
|
||||||
|
|
||||||
|
| Ячейка | Рецепт | Время, с | Изменение | RSS, МиБ | Кластеры | Решение |
|
||||||
|
|---|---|---:|---:|---:|---|---|
|
||||||
|
| W0 (рецепт M0) | WeSpeaker FP32 + `FastClustering(0.89)` | 148,220 | baseline | 362,6 | `3 / 2 / 2` | точка сравнения |
|
||||||
|
| M2 | CAMPPlus + NME + `FastClustering(N)` | 94,550 | -36,21% | 358,6 | `3 / 2 / 2` | самый быстрый, собрать C1 |
|
||||||
|
| M3 | TitaNet small + NME + `FastClustering(N)` | 107,205 | -27,67% | 511,9 | `3 / 2 / 2` | прошла, но медленнее и тяжелее M2 |
|
||||||
|
|
||||||
|
M2 и M3 прошли обязательное число кластеров. Окончательная диагностика M2
|
||||||
|
появилась в C1: purity выросла, но число слов без говорящего на первой записи
|
||||||
|
изменилось с 51 до 53. По спецификации это требует прослушивания отмеченных мест.
|
||||||
|
|
||||||
|
### Этап 3: квантизация и исполнение эмбеддингов
|
||||||
|
|
||||||
|
Для QDQ проверяли, даст ли INT8 выигрыш старому Intel без VNNI. Q1 и E1-E3
|
||||||
|
сохраняли `window_shift_ratio=0.1`, Pyannote Segmentation 3.0 FP32 и текущий
|
||||||
|
`FastClustering(0.89)`. Q1 меняла модель WeSpeaker, E1-E3 - только топологию
|
||||||
|
исполнения FP32-модели. Во всех вариантах `inter_op_threads=1`; E1-E3 использовали
|
||||||
|
общий бюджет четырех физических ядер.
|
||||||
|
|
||||||
|
| Ячейка | Рецепт | Время, с | Изменение к W0 | RSS, МиБ | Кластеры | Решение |
|
||||||
|
|---|---|---:|---:|---:|---|---|
|
||||||
|
| Q1 | WeSpeaker S8S8 QDQ, sequential | 177,537 | +19,78% | 367,7 | `2 / 2 / 2` | исключена: медленнее и потерян кластер |
|
||||||
|
| E1 | 2 outer worker, одна session, общий pool 4 | 139,219 | -6,07% | 398,6 | `3 / 2 / 2` | передать как аппаратный кандидат |
|
||||||
|
| E2 | 4 outer worker, одна session, `intra_op=1` | 152,167 | +2,66% | 551,2 | `3 / 2 / 2` | исключена по времени и памяти |
|
||||||
|
| E3 | 4 отдельные session, `intra_op=1` | 159,038 | +7,30% | 732,3 | `3 / 2 / 2` | отрицательный контроль подтвердился |
|
||||||
|
|
||||||
|
E3 измерялась составным интервалом на заранее подготовленных заданиях, поэтому
|
||||||
|
ее wall time нельзя сравнивать с `process()` так же строго, как E1/E2. Для
|
||||||
|
решения хватило отрицательного результата одновременно по времени и памяти.
|
||||||
|
|
||||||
|
TitaNet batch проверили отдельно на тех же трех матрицах:
|
||||||
|
|
||||||
|
| Контроль | Строк | Batch 1, с | Batch 4, с | Число кластеров | Метки строк совпали |
|
||||||
|
|---:|---:|---:|---:|---:|:---:|
|
||||||
|
| 1 | 531 | 27,175 | 37,588 | 3 | нет |
|
||||||
|
| 2 | 414 | 25,871 | 32,443 | 2 | нет |
|
||||||
|
| 3 | 440 | 22,877 | 28,565 | 2 | нет |
|
||||||
|
|
||||||
|
Batch 4 сохранил число кластеров, но оказался медленнее batch 1, поменял метки
|
||||||
|
строк на всех трех матрицах и дал максимальный дрейф эмбеддингов `0,277-0,317`.
|
||||||
|
Ветвь остановили до отдельной CPU-ячейки. SHA-256 закрытого batch-result:
|
||||||
|
`f12bfdb5cadf80c62871c0725eac744a99825cb5d06b70fcf11e4e538ff6df72`.
|
||||||
|
|
||||||
|
### Этап 4: комбинации перед Ryzen
|
||||||
|
|
||||||
|
Полного декартова перебора не было. C0 совпала с baseline; из оставшихся
|
||||||
|
собрали самый быстрый модельный вариант C1 и переносимый аппаратный вариант C2.
|
||||||
|
|
||||||
|
| Комбинация | Точный рецепт | Время, с | Ускорение | RSS, МиБ | Диагностика | Решение |
|
||||||
|
|---|---|---:|---:|---:|---|---|
|
||||||
|
| C1 | `0.1` + Pyannote Segmentation 3.0 FP32 + CAMPPlus + NME + `FastClustering(N)` + sequential | 98,347 | 33,65% | 399,5 | `3 / 2 / 2`; purity выше; `+2` слова без говорящего | не передавать без слуховой проверки |
|
||||||
|
| C2 | `0.1` + Pyannote Segmentation 3.0 FP32 + WeSpeaker ResNet34 LM FP32 + `FastClustering(0.89)` + 2 outer worker + 1 shared session + pool 4 | 140,632 | 4,32% | 406,0 | точное совпадение с соседним W0 | передать на Ryzen |
|
||||||
|
|
||||||
|
У C1 процент считается от разведочного W0 148,220 с. У C2 был соседний W0
|
||||||
|
146,978 с под тем же runtime guard. C2 не достигла Intel-порога продолжения,
|
||||||
|
но shared-session заранее считалась аппаратной гипотезой: Ryzen имеет восемь
|
||||||
|
физических ядер и другой ISA, поэтому спецификация требовала отдельный A/B.
|
||||||
|
|
||||||
|
## Handoff и воспроизводимость
|
||||||
|
|
||||||
|
| Объект | Значение |
|
||||||
|
|---|---|
|
||||||
|
| Merge commit в начале Ryzen-этапа | `68fda7ee893265acfa00ac78b8d4c9697f9916d9` |
|
||||||
|
| Handoff commit | `42f094ccb9464742683eec9d695e5aa9a69dd4ec` |
|
||||||
|
| Source commit эксперимента | `6345cb6449d906767b6ed33e695f2ca4eeaf3008` |
|
||||||
|
| SHA-256 Intel-отчета | `8d4183be4c3ab35f2ea043f8d87ca20e16f523cb60f9c5414d974c1bc4d6b7de` |
|
||||||
|
| SHA-256 входной Intel-капсулы | `a3a50d34783d24fe6cd13b154ca9813f9842fdcb08d99eab33a6a54efea1e3ae` |
|
||||||
|
| ID закрытого Ryzen-хранилища | `ryzen-42-20260831` |
|
||||||
|
| Upstream commit sherpa-onnx 1.13.6 | `1cb484af9b1ab05cc36f89e03dd7d76322f2e911` |
|
||||||
|
| SHA-256 патча sherpa-onnx 1.13.6 | `5f12df858cd525c8a0cfe8ff95b647c3b0e915a13d45621acc4ac42660014c49` |
|
||||||
|
| SHA-256 Intel-wheel | `306499d8668ee138357f1de43a5c1c88f4dc46c845e8a92e6ad945327bcaa050` |
|
||||||
|
| SHA-256 Ryzen-wheel | `baaaa2532606f1e1411e5c84655afa70107ad4b1676420953f5e67233c46a484` |
|
||||||
|
|
||||||
|
Входная Intel-капсула прошла полную проверку: schema v3, 199 файлов,
|
||||||
|
QDQ-артефакт доступен, предупреждений нет. Ryzen-manifest без изменений
|
||||||
|
зафиксировал данные Intel-капсулы: handoff, артефакты, контрольные записи,
|
||||||
|
calibration, QDQ, патч, версии runtime и интервал RSS. Рецепты baseline и
|
||||||
|
кандидата во всех запущенных парах совпали с переносимыми Intel-рецептами.
|
||||||
|
|
||||||
|
Ryzen-manifest, сырые результаты, рабочие артефакты стенда, guard-свидетельства
|
||||||
|
и журналы сохранены в закрытой папке Яндекс Диска. Чтобы восстановить
|
||||||
|
Ryzen-этап, нужны это хранилище и входная Intel-капсула; публичный отчет связывает
|
||||||
|
приведенные ниже восемь результатов с закрытым хранилищем только по SHA-256.
|
||||||
|
|
||||||
|
Переданный wheel не загрузился в Ryzen WSL: он требовал GLIBC 2.43, а стенд
|
||||||
|
работает с GLIBC 2.39. Для измерений wheel пересобран из того же upstream commit
|
||||||
|
и патча под текущую систему; его отдельный SHA-256 приведен в
|
||||||
|
таблице. Production-зависимости и lock-файл не менялись.
|
||||||
|
|
||||||
|
Стенд потребовал два исправления, не меняющих пользовательский контракт. Ранее
|
||||||
|
Ryzen-запуск сравнивал свой manifest побайтово с Intel `manifest.json` внутри
|
||||||
|
капсулы, хотя обязательные `stage=ryzen`, Ryzen-машина и расписание такое
|
||||||
|
совпадение исключают. Теперь Intel-manifest проверяется по индексу капсулы, а
|
||||||
|
Ryzen-manifest отдельно связывается с handoff и входами капсулы. Второе:
|
||||||
|
`temperature_celsius` допускает `null`, когда WSL и Windows не показывают
|
||||||
|
датчик температуры; отсутствие измерения больше не подменяется числом.
|
||||||
|
|
||||||
|
## Стенд Ryzen
|
||||||
|
|
||||||
|
- AMD Ryzen 7 8845H with Radeon 780M, 8 физических ядер / 16 логических
|
||||||
|
процессоров;
|
||||||
|
- 15 584 276 480 байт RAM доступны WSL, 31 944 794 112 байт установлены в
|
||||||
|
Windows; swap WSL - 4 294 967 296 байт, активность во время принятых ячеек -
|
||||||
|
нулевая;
|
||||||
|
- x86_64; AVX, AVX2, AVX-512, AVX512 VNNI, FMA, SSE4.1, SSE4.2 и AES;
|
||||||
|
- WSL2 Linux 5.15.167.4 с GLIBC 2.39, Windows 11 Enterprise 10.0.26200,
|
||||||
|
Python 3.13.13;
|
||||||
|
- `sherpa-onnx` / `sherpa-onnx-core` 1.13.6, ONNX Runtime 1.28.0,
|
||||||
|
NumPy 2.4.3, ONNX 1.22.0, kaldi-native-fbank 1.22.3, psutil 7.2.2;
|
||||||
|
- питание от сети, стабильный Windows-профиль `balanced`, EPP AC 25%,
|
||||||
|
максимальное состояние процессора 100%, boost mode `aggressive`;
|
||||||
|
- WSL не предоставляет governor; доступные интерфейсы также не показывают
|
||||||
|
температурный датчик или аппаратные лимиты мощности. Температура
|
||||||
|
записана как недоступная; это ограничивает тепловой guard;
|
||||||
|
- нативные WSL-интерфейсы не отдали supply, platform profile и throttle count,
|
||||||
|
поэтому для принятых ячеек использовали override
|
||||||
|
`LOCAL_TRANSCRIBER_RUNTIME_GUARD_JSON`, заполненный проверенными Windows-фактами:
|
||||||
|
AC, `balanced`, turbo, power policy, нулевая подкачка, отсутствие throttling.
|
||||||
|
До и после принятых пар Windows-проверка подтверждала AC, неизменный `balanced`
|
||||||
|
и отсутствие событий throttling от `Microsoft-Windows-Kernel-Processor-Power`.
|
||||||
|
Статический override сам по себе не обнаруживает изменение внутри ячейки,
|
||||||
|
поэтому внешняя проверка остается ограничением воспроизводимости;
|
||||||
|
- baseline: одна session, один outer worker, `intra_op_threads=8`,
|
||||||
|
`inter_op_threads=1`, batch 1; C2: одна shared session, два outer worker,
|
||||||
|
общий `intra_op_threads=8`, `inter_op_threads=1`, batch 1.
|
||||||
|
|
||||||
|
## Ячейки этапа 5
|
||||||
|
|
||||||
|
Время ячейки - сумма трех вызовов `diarizer.process()`, по одному на каждый
|
||||||
|
пятиминутный фрагмент. ASR и загрузка моделей в измерение не входят.
|
||||||
|
|
||||||
|
| Проверка | Порядок | Baseline, с | Кандидат, с | Ускорение | RSS baseline / кандидат, МиБ | Качество |
|
||||||
|
|---|---|---:|---:|---:|---:|:---:|
|
||||||
|
| Совпадающий baseline | W0 | 110,998 | - | - | 370,4 / - | да |
|
||||||
|
| Изолированный E1 | W0 -> E1 | 111,557 | 84,723 | 24,05% | 367,3 / 412,2 | да |
|
||||||
|
| Первичный C2 | C2 -> W0 | 111,423 | 85,909 | 22,90% | 369,6 / 410,3 | да |
|
||||||
|
|
||||||
|
E1 и C2 сохранили все обязательные и диагностические показатели baseline.
|
||||||
|
Первичный C2 прошел порог продолжения и уложился в правило памяти.
|
||||||
|
|
||||||
|
## Пять финальных A/B-циклов
|
||||||
|
|
||||||
|
| Цикл | Порядок | Baseline, с | C2, с | Парное ускорение | RSS baseline / C2, МиБ | Качество |
|
||||||
|
|---:|---|---:|---:|---:|---:|:---:|
|
||||||
|
| 1 | W0 -> C2 | 111,354 | 83,529 | 24,99% | 369,2 / 413,4 | да |
|
||||||
|
| 2 | C2 -> W0 | 108,899 | 83,907 | 22,95% | 373,0 / 418,1 | да |
|
||||||
|
| 3 | W0 -> C2 | 110,928 | 84,968 | 23,40% | 373,8 / 410,9 | да |
|
||||||
|
| 4 | C2 -> W0 | 114,985 | 83,342 | 27,52% | 376,6 / 411,1 | да |
|
||||||
|
| 5 | W0 -> C2 | 113,233 | 86,548 | 23,57% | 358,6 / 413,4 | да |
|
||||||
|
| **Итог** | - | - | - | **медиана 23,57%; MAD 0,62 п. п.** | - | **да** |
|
||||||
|
|
||||||
|
Чередование не изменило вывод: даже лучший отдельный цикл остался ниже 30%, а
|
||||||
|
медиана недобрала 6,43 процентного пункта. На Intel тот же механизм давал только
|
||||||
|
4,32%; Ryzen ускоряет shared-session заметнее, но недостаточно для `go`.
|
||||||
|
|
||||||
|
## Что уже не нужно прогонять заново
|
||||||
|
|
||||||
|
Полный replay этапов 0-5 для следующей гипотезы не нужен. Долговечное
|
||||||
|
доказательство составляют публичные агрегаты, хеши и
|
||||||
|
[карта архитектур](../research/2026-09-01-end-to-end-cpu-diarization-map.md).
|
||||||
|
Закрытые хранилища задач #41/#42 и старый материал для прослушивания C1
|
||||||
|
временно сохраняются до завершения и приемки задачи #46 как архив только для
|
||||||
|
чтения. Новый эксперимент их не читает. После приемки его отчета архив можно
|
||||||
|
удалить: будущей зависимостью он не является.
|
||||||
|
|
||||||
|
| Результат | Что можно переиспользовать | Когда повтор действительно нужен |
|
||||||
|
|---|---|---|
|
||||||
|
| W1-W4 | На текущей Pyannote-модели увеличение шага теряет кластер раньше порога скорости | Изменилась segmentation-модель, логика сборки окон или обязательный quality gate |
|
||||||
|
| M2/M3 | CAMPPlus и TitaNet с NME сохраняют `3 / 2 / 2`; M2 быстрее и экономнее | Изменилась модель, счетчик, clustering или контрольные входы |
|
||||||
|
| Q1 | Этот S8S8 QDQ-граф на Intel медленнее FP32 и дает `2 / 2 / 2` | Новая калибровка, формат квантизации, модель или runtime |
|
||||||
|
| E2/E3 | Больше worker и отдельные session не окупились при прежнем бюджете потоков | Изменилась топология session, runtime или бюджет ядер |
|
||||||
|
| E1/C2 на Ryzen | Для точного рецепта shared-session медиана равна 23,57%, качество и память проходят | Изменилась реализация механизма, runtime, машина или режим питания |
|
||||||
|
| C1 | Исторический замер скорости остается доказательством незакрытого gate; старый материал временно хранится только в архиве и не входит в задачу #46 | Для нового измерения C1 либо повторного открытия после удаления архива заново выполнить минимальную пару W0/C1 и подготовить новый материал для прослушивания |
|
||||||
|
|
||||||
|
Есть три разных вида проверки, и они не заменяют друг друга:
|
||||||
|
|
||||||
|
1. `--validate-only` сверяет commit, схему, хеши, handoff и план. Модели он не
|
||||||
|
запускает.
|
||||||
|
2. `uv run pytest` проверяет код стенда на mock-данных. Полный Python-suite перед
|
||||||
|
PR нужен, но он не повторяет аудиозамеры и не скачивает модели.
|
||||||
|
3. Измерительная ячейка запускает реальные модели. Для новой гипотезы нужен
|
||||||
|
только затронутый минимальный срез, один совпадающий baseline и первичный A/B.
|
||||||
|
Пять циклов и полные записи нужны лишь кандидату, прошедшему записанные пороги.
|
||||||
|
|
||||||
|
## Что осталось неизвестным
|
||||||
|
|
||||||
|
- C1 не получила слухового решения. Из автоматических метрик нельзя вывести,
|
||||||
|
допустимы ли два дополнительных слова без говорящего.
|
||||||
|
- Для восьми принятых последовательных W0 опубликовано
|
||||||
|
[суммарное разложение](../research/2026-09-01-end-to-end-cpu-diarization-map.md#измеренное-разложение-текущего-ryzen-baseline)
|
||||||
|
на segmentation, embeddings, clustering и orchestration residual. Для
|
||||||
|
shared-session C2 schema-compatible native total и orchestration residual
|
||||||
|
остаются недоступны.
|
||||||
|
- Полные записи не запускались: C2 не достигла порога; C1 не дошла до Ryzen.
|
||||||
|
- Температурный датчик в WSL и Windows недоступен. Внешняя проверка питания и
|
||||||
|
throttling снижает риск дрейфа, но не заменяет измерение температуры во время
|
||||||
|
каждой ячейки.
|
||||||
|
- Эксперимент проверял локальные замены внутри прежнего каскада. End-to-end
|
||||||
|
архитектуры в эту матрицу не входили.
|
||||||
|
|
||||||
|
## Индекс публичных доказательств
|
||||||
|
|
||||||
|
Хеши связывают обезличенные агрегаты с приватными JSON-результатами и не
|
||||||
|
раскрывают пути, текст, интервалы и идентификаторы записей.
|
||||||
|
|
||||||
|
| Результат | SHA-256 |
|
||||||
|
|---|---|
|
||||||
|
| Совпадающий baseline | `f50684784392cacc2d99c8aee51d01f0a67dfee3da6ea3ba5f3db749a3d5287a` |
|
||||||
|
| Изолированный E1 A/B | `24d5edae117e0619e432ef3f3019e8c66cf3516b87b80b64b8591390db25bf48` |
|
||||||
|
| Первичный C2 A/B | `142db6d06efc8d558b38e18f47f47e3e35e7df00751da2583339f99add8d75c4` |
|
||||||
|
| Финальный цикл 1 | `4b5095c9e64ff0ef75bbc58516c662bedbbdb0bedf131f66cc1031c9a0ad8c7f` |
|
||||||
|
| Финальный цикл 2 | `256a17b2d08510aad03d43f5c626c1a4269c9a25271ce492dc3305c4afca1888` |
|
||||||
|
| Финальный цикл 3 | `b5d37c7a8b05b065c61bc9d5f1c0ab639a80a821730e505179388d90c4239caa` |
|
||||||
|
| Финальный цикл 4 | `639cc9f13511a59c7240c6fb6ec6bf1c31ec26350330e3ca0c64fb721b768736` |
|
||||||
|
| Финальный цикл 5 | `4ff2863a93fc22a037de5c292391b6b46de1b539cf397026b349ea5134cf1051` |
|
||||||
|
|
||||||
|
## Решение
|
||||||
|
|
||||||
|
Итог - `new map`:
|
||||||
|
|
||||||
|
1. C2 прошла обязательное качество и память.
|
||||||
|
2. Медианное ускорение 23,57% не достигло порога 30%.
|
||||||
|
3. W1-W4 потеряли кластер, а C1 преодолела 30% на Intel только с незакрытым
|
||||||
|
диагностическим слуховым gate: сокращение окон и цены эмбеддинга уперлось в
|
||||||
|
качество раньше итогового порога.
|
||||||
|
4. По правилу спецификации следующий шаг - отдельная карта end-to-end
|
||||||
|
диаризации: [карта архитектур](../research/2026-09-01-end-to-end-cpu-diarization-map.md)
|
||||||
|
и [контракт Streaming Sortformer](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||||
|
Карта подготовлена в
|
||||||
|
[задаче #45](https://git.dementev.space/ddmitry/local-transcriber/issues/45),
|
||||||
|
а контракт исполняет
|
||||||
|
[задача #46](https://git.dementev.space/ddmitry/local-transcriber/issues/46).
|
||||||
|
5. Полные записи и Ryzen-слуховая приемка не требуются без победителя.
|
||||||
|
6. Production-профиль, CLI, конфигурационный контракт и модель по умолчанию
|
||||||
|
остаются без изменений.
|
||||||
@@ -0,0 +1,178 @@
|
|||||||
|
# Streaming Sortformer: разведочный прогон на Intel
|
||||||
|
|
||||||
|
**Дата:** 2026-09-01
|
||||||
|
|
||||||
|
**Статус:** разведка завершена; владелец решил не запускать Ryzen-прогон,
|
||||||
|
production-профиль не меняется. Задача #46 формально остается открытой без
|
||||||
|
исхода `go` или `stop`.
|
||||||
|
|
||||||
|
## Решение
|
||||||
|
|
||||||
|
Streaming Sortformer v2 Q8_0 обработал три 300-секундных фрагмента за
|
||||||
|
137,498 с против 157,487 с у свежего W0. Ускорение одной парной проверки на
|
||||||
|
четырех физических ядрах составило 12,69%. Это заметный выигрыш, но он далеко
|
||||||
|
не дотягивает до целевых 30%.
|
||||||
|
|
||||||
|
По исходной спецификации ускорение выше 10% открывает пять финальных циклов.
|
||||||
|
Разведка этот порог прошла. Владелец, однако, изменил вопрос: нужно было решить,
|
||||||
|
оправдано ли неудобное развертывание отдельной машины ради шанса достичь 30%.
|
||||||
|
|
||||||
|
Предсказать Ryzen по этой паре нельзя. Восемь физических ядер могут сильнее
|
||||||
|
ускорить W0, чья приемочная конфигурация получает восемь потоков. Более новая
|
||||||
|
микроархитектура Ryzen, напротив, может оказаться выгоднее Sortformer. Модели
|
||||||
|
переноса для этих эффектов нет. Решение владельца учитывает слабый запас по
|
||||||
|
скорости, смешанную диагностику качества и рост памяти. Формальное правило
|
||||||
|
остановки эксперимента здесь не применялось.
|
||||||
|
|
||||||
|
Кандидат не включается в production. Пять финальных циклов, полные записи и
|
||||||
|
слуховая приемка не запускались.
|
||||||
|
|
||||||
|
## Статус относительно задачи #46
|
||||||
|
|
||||||
|
Это не канонический исход `go` или `stop` из
|
||||||
|
[спецификации](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||||
|
Владелец изменил маршрут исследования после слияния стенда: вместо неудобного
|
||||||
|
развертывания отдельной Ryzen-машины сначала потребовалась локальная проверка,
|
||||||
|
достаточная для решения, нужен ли Ryzen вообще.
|
||||||
|
|
||||||
|
Разведка отличается от исходного контракта:
|
||||||
|
|
||||||
|
- Intel Core i7-6820HQ вместо целевого Ryzen;
|
||||||
|
- привязка к четырем физическим ядрам `0-3` вместо восьми;
|
||||||
|
- четыре intra-op потока W0 вместо восьми; Sortformer сохранил закрепленные
|
||||||
|
четыре внутренних потока;
|
||||||
|
- одна свежая пара на трех фрагментах вместо primary и пяти финальных пар;
|
||||||
|
- использована утвержденная владельцем готовая разметка. Нового полного
|
||||||
|
прослушивания для повторного определения числа голосов не было;
|
||||||
|
- swap был занят до начала измерений. Во время принятой пары его объем не
|
||||||
|
изменился, но каноническую проверку памяти нельзя считать пройденной.
|
||||||
|
|
||||||
|
Поэтому числа ниже отвечают только на практический вопрос о целесообразности
|
||||||
|
дальнейшего Ryzen-прогона. Формальная задача #46 остается незавершенной.
|
||||||
|
|
||||||
|
Новая закрытая основа была собрана отдельно из сохраненных исходных записей.
|
||||||
|
Подготовленные sidecar и опорная разметка перенесены по решению владельца.
|
||||||
|
Ее `basis.json` не заменяет канонический manifest приемочного стенда. Старые
|
||||||
|
manifest, расписания, измерения и результаты стенд не читал. Байты моделей W0
|
||||||
|
проверены заново по закрепленным SHA-256.
|
||||||
|
|
||||||
|
## Рецепты
|
||||||
|
|
||||||
|
W0 использовал `sherpa-onnx/core 1.13.6`, Pyannote Segmentation 3.0 FP32,
|
||||||
|
WeSpeaker ResNet34 LM FP32, `window_shift_ratio=0.1`,
|
||||||
|
`FastClustering(auto, 0.89)`, CPU provider, `debug=True`, один процесс и четыре
|
||||||
|
intra-op потока, `inter_op_threads=1`, `min_duration_on=0.3` и
|
||||||
|
`min_duration_off=0.5`.
|
||||||
|
|
||||||
|
Кандидат использовал NeMo-Speech.cpp на закрепленном commit, модель Streaming
|
||||||
|
Sortformer v2 Q8_0, CPU backend, один процесс и один stream. Geometry и
|
||||||
|
post-processing полностью совпадали со спецификацией. Реальная загрузка модели
|
||||||
|
через C ABI подтвердила четыре выходных канала и шаг 0,08 с на кадр.
|
||||||
|
|
||||||
|
Обе ветви получили одни и те же заранее декодированные mono/16 kHz float32
|
||||||
|
буферы. Загрузка моделей, декодирование, чтение sidecar, вычисление метрик и
|
||||||
|
запись результатов находились вне таймера. W0 измерял штатный
|
||||||
|
`diarizer.process(samples)`. У кандидата таймер охватывал
|
||||||
|
`stream_open -> stream_push -> stream_finish` и построение итоговых сегментов;
|
||||||
|
копирование диагностической матрицы вероятностей в wall не входило.
|
||||||
|
|
||||||
|
## Условия прогона
|
||||||
|
|
||||||
|
- Intel Core i7-6820HQ, четыре физических ядра и восемь логических;
|
||||||
|
- обе ветви привязаны к физическим ядрам `0-3`;
|
||||||
|
- фиксированный порядок пары: W0, затем Sortformer;
|
||||||
|
- каждая ветвь запущена новым процессом; модель загружена один раз, три
|
||||||
|
фрагмента обработаны последовательно;
|
||||||
|
- swap до и после каждой полной ячейки занимал 185 774 080 байт и не менялся;
|
||||||
|
короткий `vmstat` перед парой не показал swap I/O.
|
||||||
|
|
||||||
|
Режим питания, governor, turbo, температуру и признаки throttling во время
|
||||||
|
принятой пары защитная проверка не записала. Обратный порядок пары тоже не
|
||||||
|
проверялся. Поэтому 12,69% служит только ориентиром для решения о продолжении.
|
||||||
|
Устойчивая оценка производительности Intel не получена.
|
||||||
|
|
||||||
|
## Скорость и память
|
||||||
|
|
||||||
|
| Фрагмент | W0, с | Sortformer, с | Ускорение | Кластеры W0 | Кластеры Sortformer |
|
||||||
|
|---:|---:|---:|---:|---:|---:|
|
||||||
|
| 1 | 54,560 | 46,163 | 15,39% | 3 | 3 |
|
||||||
|
| 2 | 53,524 | 46,254 | 13,58% | 2 | 2 |
|
||||||
|
| 3 | 49,402 | 45,081 | 8,75% | 2 | 2 |
|
||||||
|
| **Сумма** | **157,487** | **137,498** | **12,69%** | - | - |
|
||||||
|
|
||||||
|
Суммы рассчитаны из сырых значений до округления строк таблицы.
|
||||||
|
|
||||||
|
У кандидата `inference` занял 137,497047 с, построение сегментов - 0,000566 с.
|
||||||
|
Их сумма 137,497614 с совпадает с полным `wall` до точности округления.
|
||||||
|
|
||||||
|
Пиковый RSS процесса составил 321,8 МиБ у W0 и 586,2 МиБ у кандидата.
|
||||||
|
Sortformer потребовал на 264,3 МиБ, или на 82,1%, больше. После третьего
|
||||||
|
фрагмента рост вышел на плато. Разница и процент рассчитаны из числа байтов до
|
||||||
|
округления значений в МиБ.
|
||||||
|
|
||||||
|
## Автоматическое качество
|
||||||
|
|
||||||
|
Обе ветви на всех трех фрагментах:
|
||||||
|
|
||||||
|
- нашли ранее утвержденное число голосовых кластеров `3; 2; 2`;
|
||||||
|
- сохранили текст, число и порядок слов из общего ASR-sidecar;
|
||||||
|
- выдали конечные, положительные и упорядоченные интервалы;
|
||||||
|
- прошли правила канонической нумерации говорящих.
|
||||||
|
|
||||||
|
Кандидат дополнительно прошел специальную проверку Sortformer: форма
|
||||||
|
вероятностей `T x 4`, диапазон `[0, 1]`, метки `1..4`, метаданные кадров и
|
||||||
|
эффективная конфигурация совпали с закрепленными значениями.
|
||||||
|
|
||||||
|
Диагностика не показывает однозначного улучшения качества. Показатель
|
||||||
|
`mapped speaker purity` изменился с `0,8404; 0,7665; 0,7874` у W0 на
|
||||||
|
`0,6477; 0,8372; 0,9201` у Sortformer: на первом фрагменте есть заметное
|
||||||
|
ухудшение, на двух других - улучшение. Слов без назначенного говорящего стало
|
||||||
|
92 вместо 75. Эти показатели не имеют автоматического порога, но при
|
||||||
|
продолжении потребовали бы слуховой проверки затронутых мест.
|
||||||
|
|
||||||
|
## Закрепленные доказательства
|
||||||
|
|
||||||
|
- source commit local-transcriber:
|
||||||
|
`f59efa51b769a4301a231fa977b8e04844331bc1`;
|
||||||
|
- SHA-256 закрытого `basis.json`:
|
||||||
|
`ab5ee0b191770abf69d5d17fb5cc2be169c0890e3b5b683f05d5c8b7c9ffa0d3`;
|
||||||
|
- commit NeMo-Speech.cpp:
|
||||||
|
`4f9676226f667d14608487df744f375db87127f8`;
|
||||||
|
- commit submodule ggml:
|
||||||
|
`c03b4e2bcece5134827881af90242086daf75be5`;
|
||||||
|
- SHA-256 модели Sortformer Q8_0:
|
||||||
|
`0679cfeb1ce356d0dea9470b31274f4bfc7eb927497d82005483770666da998a`;
|
||||||
|
- SHA-256 модели Pyannote Segmentation 3.0 FP32:
|
||||||
|
`220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079`;
|
||||||
|
- SHA-256 модели WeSpeaker ResNet34 LM FP32:
|
||||||
|
`e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012`;
|
||||||
|
- SHA-256 исполняемого файла:
|
||||||
|
`571ca0be2342a0ee7a807e2bdb55fda0f5e6cfa510db28ae4f5b127613889053`;
|
||||||
|
- SHA-256 библиотеки C ABI:
|
||||||
|
`620ad4d76906c7af744b1eabba6f961ae82e8113e404099a91cf1d8536f08122`;
|
||||||
|
- SHA-256 приватного runner-скрипта:
|
||||||
|
`a015a78cbed767e861eda1b52496d9da9a54cf2ba3cba0b3bc11ee89022017d9`;
|
||||||
|
- SHA-256 закрытого результата W0:
|
||||||
|
`d921c0160d3b79b073f1c631f87aa2f8798e619d936f13369d85656ebf3c75be`;
|
||||||
|
- SHA-256 закрытого результата кандидата:
|
||||||
|
`ff5a0c7f49faf64e2736ebc8075bb80dbfb85fadd4d29caeffbb3b2beadddbd3`;
|
||||||
|
- SHA-256 сводного закрытого результата:
|
||||||
|
`826cda109d05b72cf37af0d92101d67ffa24edd96ab78ce67abba737f73ba5ca`.
|
||||||
|
|
||||||
|
Закрытое хранилище содержит подготовленные записи, sidecar, опорную разметку,
|
||||||
|
сырые результаты и воспроизводимые пины. Пути, идентификаторы записей, текст,
|
||||||
|
интервалы, логи и аудио в отчет не включены.
|
||||||
|
|
||||||
|
## Ограничения
|
||||||
|
|
||||||
|
Разведка не доказывает скорость на Ryzen и не заменяет расписание приемочного
|
||||||
|
эксперимента. Один порядок одной пары и неполная защитная проверка не дают
|
||||||
|
устойчивой оценки разброса, питания и нагрева. Память не получила канонического
|
||||||
|
вердикта.
|
||||||
|
|
||||||
|
Сохраняются ограничения самой модели: не больше четырех выходных голосовых
|
||||||
|
кластеров, риск для встреч с пятью и более голосами, русской речи вне домена и
|
||||||
|
длинных записей. Если когда-нибудь понадобится именно формальный исход #46,
|
||||||
|
потребуется отдельный Ryzen-прогон по исходной спецификации. Intel-разведка не
|
||||||
|
позволяет предсказать его результат; сейчас владелец решил не тратить на него
|
||||||
|
время.
|
||||||
@@ -0,0 +1,75 @@
|
|||||||
|
# Streaming Sortformer: сравнение на Ryzen
|
||||||
|
|
||||||
|
**Дата:** 2026-09-04
|
||||||
|
|
||||||
|
Streaming Sortformer обработал три 300-секундных фрагмента за `67,433` с
|
||||||
|
против `103,242` с у свежего W0. Ускорение одной пары составило `34,68%`.
|
||||||
|
Кандидат правильно определил число голосов на всех трех фрагментах; W0 на
|
||||||
|
одном из них выделил два кластера вместо трех.
|
||||||
|
|
||||||
|
У результата есть два заметных минуса. Sortformer оставил без говорящего
|
||||||
|
`92` слова против `73` у W0 и потребовал около `551` МиБ памяти против `325`
|
||||||
|
МиБ. Во время обеих ячеек была небольшая активность swap, поэтому одна пара
|
||||||
|
показывает направление, но не устойчивость ускорения.
|
||||||
|
|
||||||
|
## Сравнение
|
||||||
|
|
||||||
|
| Показатель | W0 | Sortformer |
|
||||||
|
| --- | ---: | ---: |
|
||||||
|
| Суммарный wall, с | `103,242` | `67,433` |
|
||||||
|
| Ускорение | - | `34,68%` |
|
||||||
|
| Ожидалось кластеров | `2 / 2 / 3` | `2 / 2 / 3` |
|
||||||
|
| Получено кластеров | `2 / 2 / 2` | `2 / 2 / 3` |
|
||||||
|
| Ошибок по числу кластеров | `1 из 3` | `0 из 3` |
|
||||||
|
| Mapped purity на двух размеченных фрагментах | `0,7655 / 0,8915` | `0,8392 / 0,9176` |
|
||||||
|
| Слов без говорящего | `73` | `92` |
|
||||||
|
| Пиковый RSS, МиБ | `324,57` | `551,07` |
|
||||||
|
| CPU time, с | `822,67` | `238,70` |
|
||||||
|
| Прочитано из swap, КиБ | `492` | `224` |
|
||||||
|
| Записано в swap, КиБ | `148` | `160` |
|
||||||
|
|
||||||
|
Обе модели получили одинаковые заранее подготовленные mono/16 kHz float32
|
||||||
|
буферы и те же ASR-sidecar. W0 работал на восьми физических ядрах, Sortformer -
|
||||||
|
с четырьмя закрепленными внутренними потоками. Загрузка моделей, декодирование
|
||||||
|
аудио, чтение sidecar и расчет метрик в wall не входили.
|
||||||
|
|
||||||
|
Sortformer прошел автоматические проверки формы вероятностей, диапазона
|
||||||
|
значений, меток говорящих, текста, порядка слов и интервалов на всех трех
|
||||||
|
фрагментах. Его mapped purity выше W0 на обоих фрагментах с опорной разметкой.
|
||||||
|
При этом рост числа слов без говорящего требует слуховой проверки: по одной
|
||||||
|
автоматике нельзя заключить, что качество кандидата в целом лучше.
|
||||||
|
|
||||||
|
## Как читать результат
|
||||||
|
|
||||||
|
По исходному расписанию задача завершилась как `stop`, когда W0 не прошел
|
||||||
|
проверку числа кластеров. После этого была выполнена одна диагностическая
|
||||||
|
ячейка Sortformer на тех же входах, чтобы ответить на практический вопрос о
|
||||||
|
кандидате. Пять повторных пар, полные записи и слуховая проверка не выполнялись.
|
||||||
|
|
||||||
|
По этой паре Sortformer выглядит перспективно: ускорение оказалось выше
|
||||||
|
целевого порога `30%`, модель правильно выделила три голоса на проблемном
|
||||||
|
фрагменте и показала лучшую mapped purity. Для решения о внедрении нужны
|
||||||
|
повторные парные замеры без активности swap и слуховая проверка мест, где
|
||||||
|
слова остались без говорящего. Текущий результат уже достаточен, чтобы не
|
||||||
|
отбрасывать кандидата и продолжить исследование отдельной задачей.
|
||||||
|
|
||||||
|
## Рецепты и техническая привязка
|
||||||
|
|
||||||
|
W0 использовал `sherpa-onnx/core 1.13.6`, Pyannote Segmentation 3.0 FP32,
|
||||||
|
WeSpeaker ResNet34 LM FP32, CPU provider, `window_shift_ratio=0.1`,
|
||||||
|
`FastClustering(auto, 0.89)`, один процесс и одну сессию,
|
||||||
|
`intra_op_threads=8`, `inter_op_threads=1`, `min_duration_on=0.3` и
|
||||||
|
`min_duration_off=0.5`.
|
||||||
|
|
||||||
|
Кандидат использовал NeMo-Speech.cpp commit
|
||||||
|
`4f9676226f667d14608487df744f375db87127f8`, модель Streaming Sortformer v2
|
||||||
|
Q8_0 с SHA-256
|
||||||
|
`0679cfeb1ce356d0dea9470b31274f4bfc7eb927497d82005483770666da998a`, CPU
|
||||||
|
backend, один процесс и один stream. Geometry и post-processing соответствовали
|
||||||
|
[спецификации](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||||
|
|
||||||
|
Коммит исходного кода, выполнившего обе ячейки:
|
||||||
|
`4c4a8be07b3653cede35b0435e6c9ef6cb3fb87d`.
|
||||||
|
|
||||||
|
Закрытая основа и результаты сохраняются для следующих исследований. Их
|
||||||
|
повторное использование должно быть явно описано в новой задаче.
|
||||||
+25
-26
@@ -2,7 +2,7 @@
|
|||||||
|
|
||||||
## Режимы `--device`
|
## Режимы `--device`
|
||||||
|
|
||||||
- `auto` (по умолчанию) — CUDA при наличии `nvidia-smi`, иначе ONNX на CPU
|
- `auto` (по умолчанию) — всегда ONNX на CPU
|
||||||
- `cuda` — строго NVIDIA GPU, ошибка если недоступен
|
- `cuda` — строго NVIDIA GPU, ошибка если недоступен
|
||||||
- `openvino` — авто-выбор OpenVINO GPU или CPU
|
- `openvino` — авто-выбор OpenVINO GPU или CPU
|
||||||
- `openvino-gpu` — строго Intel GPU через OpenVINO
|
- `openvino-gpu` — строго Intel GPU через OpenVINO
|
||||||
@@ -13,8 +13,8 @@
|
|||||||
|
|
||||||
| Оборудование | Рекомендуемый `--device` | Бэкенд | Ожидаемая скорость |
|
| Оборудование | Рекомендуемый `--device` | Бэкенд | Ожидаемая скорость |
|
||||||
|---|---|---|---|
|
|---|---|---|---|
|
||||||
| NVIDIA GPU (6+ GB VRAM) | `auto` / `cuda` | faster-whisper (CTranslate2) | 7-19x реалтайм |
|
| NVIDIA GPU (6+ GB VRAM) | `cuda` + extra | faster-whisper (CTranslate2) | 7-19x реалтайм |
|
||||||
| Любой CPU без NVIDIA | `auto` / `onnx` | ONNX GigaAM RNN-T | 10-14x реалтайм* |
|
| Любой CPU | `auto` / `onnx` | ONNX GigaAM RNN-T | 10-14x реалтайм* |
|
||||||
| Intel Arc iGPU / dGPU | `openvino-gpu` | OpenVINO GenAI (GPU) | TBD |
|
| Intel Arc iGPU / dGPU | `openvino-gpu` | OpenVINO GenAI (GPU) | TBD |
|
||||||
| Intel/AMD x86 CPU | `openvino-cpu` | OpenVINO GenAI (CPU) | 3-10x реалтайм* |
|
| Intel/AMD x86 CPU | `openvino-cpu` | OpenVINO GenAI (CPU) | 3-10x реалтайм* |
|
||||||
| Любой CPU, FasterWhisper | `cpu` | faster-whisper (CTranslate2) | ~1.5x реалтайм |
|
| Любой CPU, FasterWhisper | `cpu` | faster-whisper (CTranslate2) | ~1.5x реалтайм |
|
||||||
@@ -22,7 +22,7 @@
|
|||||||
\* По результатам контрольных прогонов на Intel и AMD CPU. Реальная скорость
|
\* По результатам контрольных прогонов на Intel и AMD CPU. Реальная скорость
|
||||||
зависит от CPU, модели и записи.
|
зависит от CPU, модели и записи.
|
||||||
|
|
||||||
Автоматический профиль без NVIDIA рассчитан на русскую речь: GigaAM других
|
Автоматический профиль рассчитан на русскую речь: GigaAM других
|
||||||
языков не понимает. Для них берите Whisper — `openvino-cpu` на x86 или `cpu`
|
языков не понимает. Для них берите Whisper — `openvino-cpu` на x86 или `cpu`
|
||||||
на любой платформе.
|
на любой платформе.
|
||||||
|
|
||||||
@@ -211,22 +211,16 @@ SMT/Hyper-Threading не помогает — 16 потоков на 8-ядер
|
|||||||
|
|
||||||
## Настройка по платформам
|
## Настройка по платформам
|
||||||
|
|
||||||
### Linux / WSL2 (x86_64)
|
Для Linux/WSL x86_64 и Windows x64 используется один extra `cuda` и явный
|
||||||
|
выбор `--device cuda` либо `device = "cuda"` в TOML. Команды установки из Git,
|
||||||
|
клона и для разработки приведены в [README](../README.md#подключение-cuda).
|
||||||
|
Обычный запуск всегда использует ONNX CPU, независимо от драйвера и extra.
|
||||||
|
|
||||||
Библиотека cuBLAS ставится автоматически (зависимость `nvidia-cublas-cu12` подтягивается при установке).
|
Драйвер NVIDIA устанавливается отдельно. Полный системный CUDA Toolkit не
|
||||||
Дополнительных шагов не требуется.
|
нужен для пути через extra; на Windows требуется Visual C++ Runtime x64.
|
||||||
|
Состав Windows DLL проверен статически; реальная транскрипция без Toolkit
|
||||||
> На ARM (aarch64) cuBLAS через pip недоступен — нужен системный CUDA toolkit.
|
пока не проверена. Версии и границы проверки — [ADR-001](adr/001-cuda-bootstrap.md).
|
||||||
|
CUDA extra для ARM в этой задаче не поддерживается.
|
||||||
### Windows
|
|
||||||
|
|
||||||
Нужен системный **CUDA 12** (ctranslate2 4.7 не совместим с CUDA 11 и 13):
|
|
||||||
|
|
||||||
```bash
|
|
||||||
winget install -e --id Nvidia.CUDA --version 12.9 # требует запуска от имени администратора
|
|
||||||
```
|
|
||||||
|
|
||||||
После установки перезапустите терминал.
|
|
||||||
|
|
||||||
## Совместимость GPU
|
## Совместимость GPU
|
||||||
|
|
||||||
@@ -331,14 +325,19 @@ threshold не помогла — проблема inherent для модели
|
|||||||
Убедитесь, что `nvidia-smi` возвращает информацию о GPU. Драйвер NVIDIA предоставляет `libcuda.so.1`,
|
Убедитесь, что `nvidia-smi` возвращает информацию о GPU. Драйвер NVIDIA предоставляет `libcuda.so.1`,
|
||||||
без которого CUDA не работает — его нельзя поставить через pip.
|
без которого CUDA не работает — его нельзя поставить через pip.
|
||||||
|
|
||||||
### Windows: ошибка при загрузке модели на GPU
|
### Отсутствующие библиотеки и несовместимый GPU
|
||||||
|
|
||||||
GPU на Windows требует **CUDA 12** (ctranslate2 4.7 не совместим с CUDA 11 и 13). Установите:
|
При отсутствии cuBLAS подключите extra в том окружении, откуда запускается
|
||||||
```bash
|
программа, по [инструкции README](../README.md#подключение-cuda).
|
||||||
winget install -e --id Nvidia.CUDA --version 12.9 # требует запуска от имени администратора
|
На Windows ошибка загрузки DLL может также означать отсутствие Visual C++ Runtime.
|
||||||
```
|
|
||||||
После установки перезапустите терминал.
|
`no kernel image` / `invalid device function` означают несовместимость GPU
|
||||||
|
с выбранной сборкой runtime. Установка extra её не исправит. Ошибки драйвера
|
||||||
|
требуют проверки драйвера; нехватка VRAM — меньшей модели или явного выбора CPU.
|
||||||
|
Исходная ошибка сохраняется. CLI/TOML с явной CUDA не переходят молча на CPU
|
||||||
|
ни при загрузке, ни при распознавании.
|
||||||
|
|
||||||
### ARM (aarch64)
|
### ARM (aarch64)
|
||||||
|
|
||||||
cuBLAS через pip недоступен на ARM — нужен системный CUDA toolkit.
|
CUDA extra не поддерживается проектом на этой архитектуре. Наличие отдельных
|
||||||
|
NVIDIA wheels для ARM само по себе не подтверждает рабочий путь транскрипции.
|
||||||
@@ -0,0 +1,353 @@
|
|||||||
|
# Исследование: ускорение на AMD Radeon / NPU
|
||||||
|
|
||||||
|
**Дата**: 2026-03-23
|
||||||
|
**Железо**: AMD Ryzen 7 8845H, Radeon 780M iGPU (RDNA3, 12 CU), XDNA 1 NPU (16 TOPS)
|
||||||
|
|
||||||
|
**Статус:** архив. Перенесено из ветки `feature/amd-acceleration` (март 2026) ради истории решений. Выводы не реализованы: ADR-003 выбрал OpenVINO GenAI вместо whisper.cpp, а автоматический выбор устройства закреплён за ONNX CPU (#2).
|
||||||
|
|
||||||
|
## Мотивация
|
||||||
|
|
||||||
|
Бенчмарк ([2026-03-23-transcription-quality-ryzen.md](../benchmarks/2026-03-23-transcription-quality-ryzen.md)) показал: лучшее качество
|
||||||
|
даёт CTranslate2 float32/int8_float32, но это 600–880с на 15-минутную запись.
|
||||||
|
OpenVINO fp16 быстрее (240с), но теряет качество на русской речи.
|
||||||
|
|
||||||
|
Нужен путь: качество float32 + скорость GPU.
|
||||||
|
|
||||||
|
## Вариант 1: DirectML (onnxruntime-directml)
|
||||||
|
|
||||||
|
### Вердикт: ❌ НЕ рекомендуется
|
||||||
|
|
||||||
|
**Блокирующая проблема**: оператор `DecoderMaskedMultiHeadAttention` не реализован
|
||||||
|
в DirectML ([Olive#1213](https://github.com/microsoft/Olive/issues/1213), открыт с июня 2024).
|
||||||
|
Whisper-декодер fallback-ится на CPU — GPU ускоряет только encoder, выигрыш минимален.
|
||||||
|
|
||||||
|
**DirectML в maintenance mode** — Microsoft переключился на Windows ML (WinML).
|
||||||
|
Команда DML расформирована, новых операторов не будет. Фикс маловероятен.
|
||||||
|
|
||||||
|
**WinML** (замена DirectML) — GA с сентября 2025, но Python-пакет `onnxruntime-winml`
|
||||||
|
ещё не доступен. Требует Windows 11 25H2+. Потенциально интересен в будущем.
|
||||||
|
|
||||||
|
## Вариант 2: whisper.cpp + Vulkan ✅
|
||||||
|
|
||||||
|
### Вердикт: рекомендуется как основной путь
|
||||||
|
|
||||||
|
**Почему:**
|
||||||
|
- Проверен на AMD Radeon 780M — баг softmax ([#2596](https://github.com/ggml-org/whisper.cpp/issues/2596))
|
||||||
|
исправлен в декабре 2024
|
||||||
|
- **3–4x ускорение** vs CPU на Radeon 680M (RDNA2), 780M (RDNA3) должен быть не хуже
|
||||||
|
- Весь pipeline внутри: аудио → mel → encoder → decoder → beam search
|
||||||
|
- GGUF-модели компактнее ONNX
|
||||||
|
- Активная разработка, Vulkan-бэкенд зрелый
|
||||||
|
|
||||||
|
**Бенчмарки (чужие, похожее железо):**
|
||||||
|
|
||||||
|
| GPU | Модель | Результат |
|
||||||
|
|-----|--------|-----------|
|
||||||
|
| Radeon 680M (RDNA2) | medium | ~3–4x быстрее CPU |
|
||||||
|
| Ryzen 5 4500U (Vega) | medium | 1ч аудио за ~25 мин |
|
||||||
|
| Ryzen AI Max+ 395 (Strix Halo) | large-v3-turbo | 1ч20м аудио за ~3 мин |
|
||||||
|
|
||||||
|
**Память:** Radeon 780M использует системную RAM. whisper-medium в GGUF ≈ 1.5 ГБ —
|
||||||
|
помещается с запасом.
|
||||||
|
|
||||||
|
### Интеграция в проект
|
||||||
|
|
||||||
|
Новый бэкенд `backends/whisper_cpp.py`, реализующий Backend Protocol:
|
||||||
|
|
||||||
|
```
|
||||||
|
uv add pywhispercpp # Python-биндинги к whisper.cpp
|
||||||
|
```
|
||||||
|
|
||||||
|
Либо Vulkan-сборка whisper.cpp как subprocess (более надёжно,
|
||||||
|
но менее удобно для пользователя).
|
||||||
|
|
||||||
|
**Зависимость в pyproject.toml:**
|
||||||
|
```toml
|
||||||
|
# Опциональная, т.к. требует Vulkan-совместимый GPU
|
||||||
|
"pywhispercpp>=0.4; sys_platform == 'win32'"
|
||||||
|
```
|
||||||
|
|
||||||
|
Либо через dependency group:
|
||||||
|
```toml
|
||||||
|
[dependency-groups]
|
||||||
|
vulkan = ["pywhispercpp>=0.4"]
|
||||||
|
```
|
||||||
|
|
||||||
|
Тогда установка: `uv sync --group vulkan`
|
||||||
|
|
||||||
|
**Открытые вопросы:**
|
||||||
|
- pywhispercpp собран с Vulkan или нужна своя сборка?
|
||||||
|
- Качество GGUF-квантизации vs CTranslate2 float32 — нужен бенчмарк
|
||||||
|
- Формат моделей другой (GGUF vs CTranslate2/OpenVINO) — ещё одно скачивание
|
||||||
|
|
||||||
|
## Вариант 3: AMD NPU (XDNA)
|
||||||
|
|
||||||
|
### Вердикт: ⏳ рано для XDNA 1, перспективно для XDNA 2
|
||||||
|
|
||||||
|
**Что есть:**
|
||||||
|
- Ryzen AI Software 1.7.0 (февраль 2026) поддерживает 8845H (Hawk Point)
|
||||||
|
- [AMD LIRA](https://github.com/amd/LIRA) — CLI для ASR на NPU, поддерживает whisper base/small/medium
|
||||||
|
- [AMD-форк whisper.cpp](https://github.com/amd/whisper.cpp) с NPU-бэкендом
|
||||||
|
- Pre-квантизированные модели на HuggingFace (`amd/NPU-Whisper-Base-Small`)
|
||||||
|
|
||||||
|
**Ограничения на XDNA 1 (8845H):**
|
||||||
|
- 16 TOPS — в 3 раза слабее XDNA 2 (50 TOPS)
|
||||||
|
- **Только encoder** на NPU, decoder на CPU — ускорение частичное
|
||||||
|
- whisper-large-v3 не помещается
|
||||||
|
- Установка через отдельный installer AMD, не pip/uv
|
||||||
|
- Форк whisper.cpp не в mainline — риск отставания
|
||||||
|
|
||||||
|
**Когда станет интересно:**
|
||||||
|
- На железе с XDNA 2 (Ryzen AI 300+, 50 TOPS)
|
||||||
|
- Когда AMD выпустит pip-пакет или upstreamит в whisper.cpp
|
||||||
|
- Для сценариев, где CPU/GPU заняты другой работой
|
||||||
|
|
||||||
|
## Сводка
|
||||||
|
|
||||||
|
| Подход | Применимость | Ускорение | Сложность | Стабильность |
|
||||||
|
|--------|-------------|-----------|-----------|--------------|
|
||||||
|
| **whisper.cpp + Vulkan** | ✅ высокая | 3–4x vs CPU | низкая | хорошая |
|
||||||
|
| DirectML (onnxruntime) | ❌ заблокирован | — | — | — |
|
||||||
|
| AMD NPU (XDNA 1) | ⚠️ ограничен | частичное | высокая | средняя |
|
||||||
|
| WinML (будущее) | ⏳ не готов | неизвестно | средняя | — |
|
||||||
|
|
||||||
|
## Детали по whisper.cpp + Vulkan
|
||||||
|
|
||||||
|
### Модели (GGML .bin формат, НЕ GGUF)
|
||||||
|
|
||||||
|
Скачивать с https://huggingface.co/ggerganov/whisper.cpp/tree/main
|
||||||
|
|
||||||
|
| Модель | Файл | Размер |
|
||||||
|
|--------|------|--------|
|
||||||
|
| medium f16 | `ggml-medium.bin` | 1.53 ГБ |
|
||||||
|
| medium q8_0 | `ggml-medium-q8_0.bin` | 823 МБ |
|
||||||
|
| medium q5_0 | `ggml-medium-q5_0.bin` | 539 МБ |
|
||||||
|
| large-v3 f16 | `ggml-large-v3.bin` | 3.1 ГБ |
|
||||||
|
| large-v3 q5_0 | `ggml-large-v3-q5_0.bin` | 1.08 ГБ |
|
||||||
|
| large-v3-turbo f16 | `ggml-large-v3-turbo.bin` | 1.62 ГБ |
|
||||||
|
| large-v3-turbo q8_0 | `ggml-large-v3-turbo-q8_0.bin` | 874 МБ |
|
||||||
|
|
||||||
|
### Python-биндинги
|
||||||
|
|
||||||
|
**pywhispercpp** (v1.4.1) — pip wheel CPU-only. Для Vulkan нужна сборка из исходников:
|
||||||
|
```bash
|
||||||
|
GGML_VULKAN=1 pip install git+https://github.com/absadiki/pywhispercpp
|
||||||
|
```
|
||||||
|
Требует: VulkanSDK, cmake, C++ компилятор.
|
||||||
|
|
||||||
|
### Subprocess-подход (альтернатива)
|
||||||
|
|
||||||
|
whisper-cli принимает WAV 16kHz mono, выдаёт JSON с таймкодами:
|
||||||
|
```bash
|
||||||
|
whisper-cli -m ggml-medium.bin -f audio.wav -l ru -oj -of output
|
||||||
|
```
|
||||||
|
|
||||||
|
Для видео/mp3 нужна предварительная конвертация через ffmpeg (PyAV уже есть в зависимостях).
|
||||||
|
|
||||||
|
### Сборка whisper.cpp с Vulkan
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# Linux/WSL
|
||||||
|
sudo apt install cmake build-essential libvulkan-dev
|
||||||
|
git clone https://github.com/ggml-org/whisper.cpp
|
||||||
|
cd whisper.cpp
|
||||||
|
cmake -B build -DGGML_VULKAN=ON -DCMAKE_BUILD_TYPE=Release
|
||||||
|
cmake --build build --config Release -j$(nproc)
|
||||||
|
# -> build/bin/whisper-cli
|
||||||
|
```
|
||||||
|
|
||||||
|
## Прототип: whisper.cpp в WSL2 (2026-03-23)
|
||||||
|
|
||||||
|
### Сборка
|
||||||
|
|
||||||
|
whisper.cpp собран с `-DGGML_VULKAN=ON`, но **Vulkan GPU не обнаружен**:
|
||||||
|
|
||||||
|
```
|
||||||
|
ggml_vulkan: No devices found.
|
||||||
|
whisper_backend_init_gpu: no GPU found
|
||||||
|
```
|
||||||
|
|
||||||
|
**Причина**: WSL2 не предоставляет Vulkan-доступ к AMD GPU.
|
||||||
|
- `/dev/dxg` есть (DirectX 12 paravirtualization), но **dozen** (Vulkan-over-D3D12) драйвер
|
||||||
|
отсутствует в текущей mesa (25.2.8)
|
||||||
|
- RADV (нативный Vulkan) не работает — нет `/dev/dri/renderD128`
|
||||||
|
- Единственный Vulkan-девайс — `llvmpipe` (CPU-эмуляция), whisper.cpp его игнорирует
|
||||||
|
|
||||||
|
Whisper.cpp отработал **на CPU** (4 потока, AVX512).
|
||||||
|
|
||||||
|
### Скорость (CPU fallback)
|
||||||
|
|
||||||
|
| Параметр | Значение |
|
||||||
|
|----------|----------|
|
||||||
|
| Модель | ggml-medium.bin (f16, 1533 МБ) |
|
||||||
|
| Аудио | 14:41 (881с), русский, 3 участника |
|
||||||
|
| Общее время | **886с** |
|
||||||
|
| encode | 368с (32 прохода, 11.5с/проход) |
|
||||||
|
| batchd (decode) | 424с |
|
||||||
|
| Потоки | 4 / 16 |
|
||||||
|
| Beam search | 5 beams + best of 5 |
|
||||||
|
|
||||||
|
Сравнение с бенчмарком (тот же аудиофайл):
|
||||||
|
|
||||||
|
| Конфигурация | Время, с |
|
||||||
|
|---|---|
|
||||||
|
| OpenVINO fp16 (medium) | ~240 |
|
||||||
|
| CT2 int8_float32 (medium) | ~599 |
|
||||||
|
| CT2 float32 (medium) | ~881 |
|
||||||
|
| **whisper.cpp CPU (medium f16)** | **~886** |
|
||||||
|
|
||||||
|
На CPU whisper.cpp ≈ CTranslate2 float32. Без GPU ускорения нет.
|
||||||
|
|
||||||
|
### Качество (сравнение с бенчмарком)
|
||||||
|
|
||||||
|
#### Техтермины
|
||||||
|
|
||||||
|
| Термин | whisper.cpp (CPU) | CT2 f32 | CT2 int8f32 |
|
||||||
|
|--------|------------------|---------|-------------|
|
||||||
|
| DWH | ✅ DWH | ⚠️ ДВХ | ✅ DWH |
|
||||||
|
| Teradata | ✅ TeraData | ⚠️ Тирадату | ✅ Teradata |
|
||||||
|
| NiFi | ⚠️ Найфай/Найфаю | ⚠️ Найфай | ✅ NiFi |
|
||||||
|
| FineBI | ✅ fineBI/FNBI | ✅ FNBI | ✅ finebi/FNBI |
|
||||||
|
| Alation | ✅ Allation | ✅ Allation | ✅ Allation |
|
||||||
|
| ETL | ✅ ETL | ✅ ETL | ✅ ETL |
|
||||||
|
| DBC Tables V | ✅ DBC tables-V | ✅ | ✅ |
|
||||||
|
| OpenLineage | ✅ OpenLinage.io | ✅ OpenLinage.io | ✅ OpenLinage.io |
|
||||||
|
|
||||||
|
#### Русская разговорная речь
|
||||||
|
|
||||||
|
| Фраза | whisper.cpp (CPU) | CT2 f32 | CT2 int8f32 |
|
||||||
|
|-------|------------------|---------|-------------|
|
||||||
|
| "на другую мониторочку" | ✅ "на другом мониторчике" | ✅ "мониторчику" | ⚠️ "мою точку" |
|
||||||
|
| "верхнеуровневое" | ✅ | ✅ | ✅ |
|
||||||
|
| "датарентген" | ✅ "даторентген" | ✅ "даторентген" | ✅ "даторентген" |
|
||||||
|
| "девовские схемы" | ✅ | ✅ | ✅ |
|
||||||
|
| "с накиданными правами" | ✅ | ✅ | ✅ |
|
||||||
|
| "Вьюхи" | ⚠️ "Yuhi" | ✅ "Вьюхи" | ⚠️ "Yuhi" |
|
||||||
|
|
||||||
|
#### Структура и пунктуация
|
||||||
|
|
||||||
|
| Аспект | whisper.cpp (CPU) | CT2 f32 | CT2 int8f32 |
|
||||||
|
|--------|------------------|---------|-------------|
|
||||||
|
| Пунктуация | хорошая | хорошая | хорошая |
|
||||||
|
| Длина сегментов | 1–10 сек | ~1 мин | ~1 мин |
|
||||||
|
|
||||||
|
**Вывод по качеству**: whisper.cpp medium f16 на уровне CTranslate2 float32/int8_float32.
|
||||||
|
Качество сопоставимо, различия минимальны. Сегменты короче (1–10 сек vs ~1 мин) —
|
||||||
|
это даже лучше для навигации по транскрипту.
|
||||||
|
|
||||||
|
### Блокер: Vulkan в WSL2 для AMD
|
||||||
|
|
||||||
|
Для получения GPU-ускорения нужно одно из:
|
||||||
|
|
||||||
|
1. **Нативный Linux** (dual boot / bare metal) — RADV драйвер работает с Radeon 780M
|
||||||
|
2. **Windows-сборка** — нативный Vulkan через AMD Adrenalin драйвер
|
||||||
|
3. **WSL2 + dozen** — экспериментальный Vulkan-over-D3D12 драйвер mesa.
|
||||||
|
Статус: [в разработке](https://gitlab.freedesktop.org/mesa/mesa/-/merge_requests?search=dozen),
|
||||||
|
не включён в стандартную mesa Ubuntu.
|
||||||
|
Потенциально можно собрать mesa из исходников с `-Dvulkan-drivers=microsoft-experimental`
|
||||||
|
|
||||||
|
**Рекомендация**: попробовать Windows-сборку whisper.cpp — это самый простой путь
|
||||||
|
к Vulkan + Radeon 780M. Либо собрать mesa с dozen для WSL2.
|
||||||
|
|
||||||
|
## Прототип: whisper.cpp + Vulkan на Windows (2026-03-23)
|
||||||
|
|
||||||
|
### Сборка
|
||||||
|
|
||||||
|
whisper.cpp собран на Windows с MinGW (MSYS2) + Vulkan:
|
||||||
|
```
|
||||||
|
cmake -B build-vulkan -G "MinGW Makefiles" -DGGML_VULKAN=ON -DCMAKE_BUILD_TYPE=Release
|
||||||
|
```
|
||||||
|
|
||||||
|
Vulkan GPU обнаружен:
|
||||||
|
```
|
||||||
|
ggml_vulkan: Found 1 Vulkan devices:
|
||||||
|
ggml_vulkan: 0 = AMD Radeon(TM) 780M (AMD proprietary driver) | uma: 1 | fp16: 1 |
|
||||||
|
warp size: 64 | shared memory: 32768 | int dot: 1 | matrix cores: KHR_coopmat
|
||||||
|
```
|
||||||
|
|
||||||
|
### Проблема: зацикливание (repetition loop)
|
||||||
|
|
||||||
|
Первый запуск (дефолтные параметры): **520с**, но с ~07:00 модель зациклилась
|
||||||
|
на фразе "Ну, опять же, они могут завести…" — повторяется ~170 раз до конца записи.
|
||||||
|
Потеряна половина транскрипта.
|
||||||
|
|
||||||
|
**Причина**: whisper.cpp передаёт контекст предыдущего сегмента в декодер (`-mc -1`),
|
||||||
|
что провоцирует repetition loop на длинных записях с паузами/перебивками.
|
||||||
|
|
||||||
|
**Решение**: `-mc 0` (не передавать контекст между сегментами).
|
||||||
|
|
||||||
|
### Скорость (Vulkan, -mc 0)
|
||||||
|
|
||||||
|
| Параметр | Значение |
|
||||||
|
|----------|----------|
|
||||||
|
| Модель | ggml-medium.bin (f16, 1533 МБ) на Vulkan GPU |
|
||||||
|
| Аудио | 14:41 (881с), русский, 3 участника |
|
||||||
|
| Общее время | **432с** |
|
||||||
|
| encode | 123.5с (35 проходов, 3.5с/проход) |
|
||||||
|
| batchd (decode) | 252.7с |
|
||||||
|
| Потоки | 4 / 16 |
|
||||||
|
|
||||||
|
Сравнение с бенчмарком (тот же аудиофайл):
|
||||||
|
|
||||||
|
| Конфигурация | Время, с | Ускорение vs CPU f32 |
|
||||||
|
|---|---|---|
|
||||||
|
| OpenVINO fp16 (medium) | ~240 | 3.7x |
|
||||||
|
| **whisper.cpp Vulkan + Radeon 780M** | **~432** | **2.0x** |
|
||||||
|
| **CT2 int8_float32, 8 threads** | **~458** | **1.9x** |
|
||||||
|
| CT2 int8_float32, 16 threads | ~498 | 1.8x |
|
||||||
|
| CT2 int8_float32, default (4 threads) | ~599 | 1.5x |
|
||||||
|
| CT2 float32 / whisper.cpp CPU | ~881-886 | 1.0x |
|
||||||
|
|
||||||
|
**Оптимизация потоков**: CTranslate2 по умолчанию использует 4 потока (`cpu_threads=0`).
|
||||||
|
На Ryzen 7 8845H (8 ядер / 16 потоков) оптимум — **8 потоков** (по числу физических ядер).
|
||||||
|
16 потоков (SMT/hyperthreading) не помогают — контекст-свитчинг нивелирует выигрыш.
|
||||||
|
Управление: `OMP_NUM_THREADS=8` или параметр `cpu_threads` в WhisperModel.
|
||||||
|
|
||||||
|
CT2 int8_float32 с 8 потоками (**458с**) почти догоняет whisper.cpp Vulkan (**432с**)
|
||||||
|
без дополнительных зависимостей.
|
||||||
|
|
||||||
|
### Качество (Vulkan, -mc 0)
|
||||||
|
|
||||||
|
#### Техтермины
|
||||||
|
|
||||||
|
| Термин | whisper.cpp Vulkan | CT2 int8f32 |
|
||||||
|
|--------|-------------------|-------------|
|
||||||
|
| DWH | ✅ DWH | ✅ DWH |
|
||||||
|
| Teradata | ✅ TeraData | ✅ Teradata |
|
||||||
|
| NiFi | ⚠️ IFI | ✅ NiFi |
|
||||||
|
| FineBI | ✅ FindBI/FineBI/FNBI | ✅ finebi/FNBI |
|
||||||
|
| Alation | ✅ Allation | ✅ Allation |
|
||||||
|
| ETL | ✅ ETL | ✅ ETL |
|
||||||
|
| DBC Tables V | ⚠️ dbc tables v (lowercase) | ✅ DBC Tables V |
|
||||||
|
| OpenLineage | ✅ OpenLinage.io | ✅ OpenLinage.io |
|
||||||
|
| Вьюхи | ✅ Вьюхи | ⚠️ Yuhi |
|
||||||
|
|
||||||
|
#### Русская разговорная речь и пунктуация
|
||||||
|
|
||||||
|
Качество сопоставимо с CT2 int8_float32. Пунктуация хорошая в обоих случаях.
|
||||||
|
Сегменты у whisper.cpp короче (2-10 сек vs ~1 мин) — удобнее для навигации.
|
||||||
|
|
||||||
|
### Вывод
|
||||||
|
|
||||||
|
whisper.cpp + Vulkan на Radeon 780M даёт **432с** — всего **28% быстрее** CT2 int8_float32
|
||||||
|
(599с). Разница недостаточна, чтобы оправдать сложность интеграции:
|
||||||
|
|
||||||
|
- Отдельная сборка whisper.cpp (cmake + MinGW + VulkanSDK)
|
||||||
|
- Другой формат моделей (GGML вместо CTranslate2)
|
||||||
|
- Workaround `-mc 0` от зацикливания
|
||||||
|
- Конвертация в WAV (whisper.cpp не принимает mp4 напрямую)
|
||||||
|
- Ещё одна зависимость для пользователя
|
||||||
|
|
||||||
|
**CT2 int8_float32 остаётся оптимальным выбором**: уже встроен в проект, zero-config,
|
||||||
|
хорошее качество, приемлемая скорость.
|
||||||
|
|
||||||
|
## Рекомендуемый план (обновлённый)
|
||||||
|
|
||||||
|
1. ~~**Прототип в WSL** — собрать whisper.cpp с Vulkan, прогнать тестовый файл~~ ✅ Сделано
|
||||||
|
2. ~~**Качество подтверждено** — whisper.cpp medium f16 ≈ CT2 float32/int8_float32~~ ✅
|
||||||
|
3. ~~**GPU-ускорение в WSL2** — Vulkan не видит AMD GPU~~ ✅ Подтверждено
|
||||||
|
4. ~~**Windows-сборка с Vulkan** — 432с, 2x vs CPU, но всего 28% vs CT2 int8_float32~~ ✅
|
||||||
|
5. **Решение**: whisper.cpp + Vulkan не оправдывает себя на Radeon 780M iGPU.
|
||||||
|
CT2 int8_float32 — оптимальный дефолт для CPU без CUDA.
|
||||||
|
6. NPU — отложить до XDNA 2 или до появления pip-пакета от AMD
|
||||||
|
7. Пересмотреть при появлении дискретного AMD GPU или WinML с Python-поддержкой
|
||||||
@@ -0,0 +1,166 @@
|
|||||||
|
# Кандидаты на ASR-модель для русских встреч
|
||||||
|
|
||||||
|
**Дата:** 2026-08-31
|
||||||
|
|
||||||
|
**Статус:** кабинетное исследование по первичным источникам; локально новые модели еще не запускались
|
||||||
|
|
||||||
|
**Область исследования:** длинные русские встречи с английскими IT-терминами, локальная обработка и обязательные пословные таймкоды
|
||||||
|
|
||||||
|
## Исследовательский вопрос
|
||||||
|
|
||||||
|
Есть ли среди Nemotron 3.5 ASR Streaming 0.6B, Qwen3-ASR 0.6B, Canary 180M Flash и Cohere Transcribe кандидат, который лучше текущей GigaAM v3 E2E RNN-T подходит для локальной расшифровки длинных русских встреч с английскими IT-терминами?
|
||||||
|
|
||||||
|
## Контекст
|
||||||
|
|
||||||
|
Текущий профиль проекта, `gigaam-v3-e2e-rnnt`, уже встроен через `onnx-asr` и выбран по итогам проектного benchmark. Он дает быстрый русский E2E-текст с пунктуацией. Основная известная слабость - нестабильное распознавание английских терминов и названий. Подробные результаты приведены ниже.
|
||||||
|
|
||||||
|
Опубликованные WER разных моделей нельзя складывать в общий рейтинг. Корпуса, языки, нормализация и режимы распознавания различаются. Обоснованный вывод о преимуществе другой модели возможен только после прогона на проектных записях.
|
||||||
|
|
||||||
|
## Известные факты
|
||||||
|
|
||||||
|
### Сводка
|
||||||
|
|
||||||
|
| Модель | Русский | Таймкоды в практичном локальном пути | Размер локальных весов | Путь интеграции | Ключевое ограничение |
|
||||||
|
|---|---|---|---:|---|---|
|
||||||
|
| GigaAM v3 E2E RNN-T INT8 | Да, основной язык | Да, текущий адаптер `onnx-asr` | около 227 MB файлов ONNX | Уже встроена | Английские термины распознаются нестабильно |
|
||||||
|
| Nemotron 3.5 ASR Streaming 0.6B Q8 | Да, `ru-RU` в основном tier | Да, NeMo-Speech.cpp JSON содержит `words[]` | 742 MB | Новый backend поверх NeMo-Speech.cpp | Нет сопоставимых CPU-замеров |
|
||||||
|
| Qwen3-ASR 0.6B Q8 | Да, один из 30 языков | ASR не дает; нужен отдельный Qwen3-ForcedAligner 0.6B | 811 MB только ASR | Новый OpenVINO или native путь плюс aligner | Таймкоды требуют второго модельного этапа |
|
||||||
|
| Canary 180M Flash Q8 | Нет, только `en/de/es/fr` | В Handy и ONNX-порте нет | 208 MB GGUF, около 214 MB ONNX | Raw ONNX близок к текущему адаптеру | Нет русского; доступные порты теряют таймкоды |
|
||||||
|
| Cohere Transcribe Q5 | Нет, 14 языков без русского | Нет у upstream и Handy | 1.77 GB | Новый runtime и внешний VAD | Нет русского и таймкодов |
|
||||||
|
|
||||||
|
Размер файла не равен peak RAM или VRAM. Для новых моделей эти значения надо измерить отдельно.
|
||||||
|
|
||||||
|
### Режим работы и контракт результата
|
||||||
|
|
||||||
|
| Модель | Практический режим | Длинные записи | Контекст терминов | Результат |
|
||||||
|
|---|---|---|---|---|
|
||||||
|
| GigaAM v3 E2E RNN-T | Offline-файлы | Проект режет запись через Silero VAD | Текущий адаптер не передает словарь или контекст | Русский текст с регистром, пунктуацией, нормализацией и текущими word timestamps; confidence от модели не сохраняется |
|
||||||
|
| Nemotron 3.5 | Offline и настоящий cache-aware streaming | NeMo-Speech.cpp принимает файл целиком или поток | Word boosting в NeMo-Speech.cpp | Пунктуация и регистр; auto language tag; `words[]` с временем и confidence; полная ITN требует отдельной grammar |
|
||||||
|
| Qwen3-ASR 0.6B | Upstream: offline и vLLM streaming; Handy: только offline | Handy принимает до примерно 87 минут; aligner заявлен до пяти минут, официальный wrapper режет timestamp-вход по 180 секунд | Официальный runtime принимает свободный `context`; в текущем `transcribe.cpp` входа нет | Текст и определенный язык; timestamps только через отдельный ForcedAligner, без confidence; строгий ITN-контракт не описан |
|
||||||
|
| Canary 180M Flash | Offline, короткие реплики | Вход короче 40 секунд; long-form через chunk-and-stitch | Сопоставимый механизм не заявлен | Переключаемые пунктуация и регистр; upstream дает экспериментальные word/segment timestamps через вспомогательный CTC-aligner, доступные порты его теряют |
|
||||||
|
| Cohere Transcribe | Monolingual offline; incremental streaming не документирован | Transformers автоматически режет и собирает длинное аудио | Сопоставимый механизм не заявлен | Переключаемая пунктуация; язык надо указать; timestamps, diarization и auto language ID отсутствуют |
|
||||||
|
|
||||||
|
Источники по режимам и результату: [Nemotron model card](https://huggingface.co/nvidia/nemotron-3.5-asr-streaming-0.6b), [NeMo-Speech.cpp API](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/main/docs/api.md), [Qwen runtime](https://github.com/QwenLM/Qwen3-ASR/blob/main/qwen_asr/inference/qwen3_asr.py), [Qwen transcribe.cpp](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/qwen3-asr.md), [Canary model card](https://huggingface.co/nvidia/canary-180m-flash), [Canary implementation](https://github.com/NVIDIA-NeMo/Speech/blob/main/nemo/collections/asr/models/aed_multitask_models.py), [Cohere model card](https://huggingface.co/CohereLabs/cohere-transcribe-03-2026).
|
||||||
|
|
||||||
|
Сопоставимого word-confidence между моделями нет. NeMo-Speech.cpp возвращает поле `confidence`, но его калибровка не заявлена. Текущий GigaAM-адаптер выбрасывает token log probabilities, Qwen ForcedAligner возвращает только текст и время, Canary и Cohere не документируют confidence как часть результата.
|
||||||
|
|
||||||
|
### Поставка и лицензии
|
||||||
|
|
||||||
|
| Модель | Полный локальный состав | Лицензия и доступ | Условие поставки |
|
||||||
|
|---|---|---|---|
|
||||||
|
| GigaAM | Около 227 MB ONNX плюс уже используемые `onnx-asr`, ONNX Runtime и Silero VAD | MIT | При распространении нужно сохранить текст лицензии |
|
||||||
|
| Nemotron 3.5 | 742 MB Q8 GGUF плюс NeMo-Speech.cpp; VAD и полная ITN требуют дополнительных моделей или файлов | Веса OpenMDW-1.1, runtime Apache-2.0 | При распространении весов надо сохранить лицензию и notices |
|
||||||
|
| Qwen3-ASR 0.6B | 811 MB Q8 только для ASR; timestamp-профилю нужен еще Qwen3-ForcedAligner 0.6B, готового GGUF-пути для него нет | Apache-2.0, upstream не gated | Профиль с таймкодами включает второй набор весов; сохраняются license/notices Apache-2.0 |
|
||||||
|
| Canary 180M Flash | 208 MB Q8 GGUF или около 214 MB ONNX дают текст без таймкодов; полный `.nemo` 737 MB содержит вспомогательный aligner и требует NeMo/PyTorch | CC-BY-4.0 | При поставке нужна атрибуция; timestamp-профиль перестает быть компактным |
|
||||||
|
| Cohere Transcribe | 1.77 GB Q5 GGUF; upstream BF16 занимает 4.13 GB | Apache-2.0; официальный Hugging Face repo gated | Автоматическая загрузка официальных весов требует пользовательского доступа |
|
||||||
|
|
||||||
|
Размеры и условия: [GigaAM ONNX](https://huggingface.co/istupakov/gigaam-v3-onnx/tree/main), [GigaAM](https://github.com/salute-developers/GigaAM), [Nemotron files](https://huggingface.co/nvidia/nemotron-3.5-asr-streaming-0.6b/tree/main), [OpenMDW 1.1](https://openmdw.ai/license/1-1/), [Qwen ASR](https://huggingface.co/Qwen/Qwen3-ASR-0.6B), [Qwen ForcedAligner](https://huggingface.co/Qwen/Qwen3-ForcedAligner-0.6B), [Canary](https://huggingface.co/nvidia/canary-180m-flash), [Cohere](https://huggingface.co/CohereLabs/cohere-transcribe-03-2026).
|
||||||
|
|
||||||
|
## Результаты по моделям
|
||||||
|
|
||||||
|
### GigaAM v3 E2E RNN-T
|
||||||
|
|
||||||
|
На трех реальных встречах общей длительностью 43:37 текущая GigaAM v3 E2E RNN-T INT8 показала `11.54x RTFx`, `26.9%` сравнительного WER и 290 знаков пунктуации на 1000 слов. Внешние транскрипты были неточным ориентиром, поэтому WER полезен только для сравнения прогонов на этих же файлах. [Проектный benchmark](../benchmarks/2026-08-11-gigaam-model-comparison.md#сводка-по-трём-записям)
|
||||||
|
|
||||||
|
Сильные стороны baseline:
|
||||||
|
|
||||||
|
- зрелая интеграция через `onnx-asr`, Silero VAD и обязательные token/word timestamps ([текущий адаптер](../../src/local_transcriber/backends/onnx_asr.py));
|
||||||
|
- русский E2E-текст с регистром, пунктуацией и нормализацией;
|
||||||
|
- компактные INT8-веса и измеренная CPU-скорость.
|
||||||
|
|
||||||
|
Известная слабость: английские термины и названия передаются нестабильно. В benchmark встречались варианты `Fine BI`, `FNB`, `API`, `AP`, `пи`, а `edge cases` часто превращался в кириллическую фонетическую запись. Ценность нового кандидата для проекта зависит прежде всего от улучшения этого среза без потери обычной русской речи.
|
||||||
|
|
||||||
|
### Nemotron 3.5 ASR Streaming 0.6B
|
||||||
|
|
||||||
|
Точная модель: [`nvidia/nemotron-3.5-asr-streaming-0.6b`](https://huggingface.co/nvidia/nemotron-3.5-asr-streaming-0.6b), checkpoint `nemotron-3.5-asr-streaming-0.6b-v1`, выпущен 4 июня 2026 года. Это Cache-Aware FastConformer-RNNT на 600 млн параметров с 32 готовыми locale и еще восемью после адаптации. `ru-RU`, `en-US` и `en-GB` входят в основной transcription-ready tier. Модель поддерживает offline-распознавание и streaming с задержкой от 80 ms до 1.12 s, пунктуацию, регистр и auto language ID. [Model card](https://huggingface.co/nvidia/nemotron-3.5-asr-streaming-0.6b)
|
||||||
|
|
||||||
|
#### Практическая совместимость
|
||||||
|
|
||||||
|
Официальный [NeMo-Speech.cpp](https://github.com/NVIDIA/NeMo-Speech.cpp) работает на CPU, CUDA, Vulkan и Metal. Он принимает файлы и поток, а JSON/SRT/VTT-вывод содержит слова с началом, концом и confidence. Q8 GGUF занимает 742 MB. Для первого прототипа достаточно subprocess и JSON; долгоживущий процесс или C API понадобятся позже, если загрузка модели на каждый файл окажется дорогой. Runtime пока молодой: v0.1.0 выпущен 19 августа 2026 года, его API еще может меняться. [CLI и формат вывода](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/main/docs/cli.md#subtitles-and-structured-output), [релиз v0.1.0](https://github.com/NVIDIA/NeMo-Speech.cpp/releases/tag/v0.1.0)
|
||||||
|
|
||||||
|
Runtime также поддерживает per-request word boosting для cache-aware RNN-T. [Матрица customization](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/main/docs/asr/customization.md#feature-matrix)
|
||||||
|
|
||||||
|
#### Ограничения опубликованных данных
|
||||||
|
|
||||||
|
- NVIDIA приводит для FLEURS Russian WER `9.17%` с `ru-RU` и `10.03%` с auto при контексте 1.12 s. Эти числа подтверждают рабочий русский, но не превосходство над GigaAM на встречах.
|
||||||
|
- В обучении были code-switched samples, однако отдельного теста для внутрифразовой смеси `ru/en` нет. [Обсуждение модели](https://huggingface.co/nvidia/nemotron-3.5-asr-streaming-0.6b/discussions/2)
|
||||||
|
- H100 throughput из model card относится к высокой конкурентности. CPU-скорость и peak RSS на сопоставимом desktop-процессоре не опубликованы.
|
||||||
|
- Пунктуация и регистр встроены. Полная inverse text normalization требует отдельной grammar в NeMo-Speech.cpp; по числам, датам и сокращениям паритет с GigaAM пока не доказан. [HTTP API](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/main/docs/api.md#post-v1audiotranscriptions)
|
||||||
|
|
||||||
|
Текущий `onnx-asr` Nemotron 3.5 не поддерживает. Alias в каталоге проекта недостаточен, нужен адаптер нового runtime.
|
||||||
|
|
||||||
|
#### Вывод
|
||||||
|
|
||||||
|
Nemotron ближе остальных новых кандидатов к полному контракту проекта. Он не доказал превосходство по качеству и CPU-скорости, но уже имеет практический путь к русскому тексту, длинным файлам и пословным таймкодам.
|
||||||
|
|
||||||
|
### Qwen3-ASR 0.6B
|
||||||
|
|
||||||
|
Точная upstream-модель: [`Qwen/Qwen3-ASR-0.6B`](https://huggingface.co/Qwen/Qwen3-ASR-0.6B). Handy использует Q8 GGUF размером 811 MB, собранный из зафиксированной revision `5eb144179a02acc5e5ba31e748d22b0cf3e303b0`. Несмотря на имя `0.6B`, Hugging Face показывает около 0.9 млрд параметров всего checkpoint: к Qwen3-0.6B добавлены аудиоэнкодер и projector. [Описание порта transcribe.cpp](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/qwen3-asr-0.6b.md), [файлы upstream](https://huggingface.co/Qwen/Qwen3-ASR-0.6B/tree/main)
|
||||||
|
|
||||||
|
Модель поддерживает 30 языков, включая русский и английский, 22 китайских диалекта и автоматическое определение языка. Один checkpoint рассчитан на offline и streaming. [Model card](https://huggingface.co/Qwen/Qwen3-ASR-0.6B)
|
||||||
|
|
||||||
|
#### Контекст запроса
|
||||||
|
|
||||||
|
Qwen использует audio-language-model архитектуру. Официальный runtime принимает свободную строку `context` на каждый запрос и помещает ее в системное сообщение. Так можно передать названия продуктов или тему встречи. В основном `transcribe.cpp` этот вход пока отсутствует; его добавляет открытый [PR #144](https://github.com/handy-computer/transcribe.cpp/pull/144). Наиболее удобный CPU-порт пока теряет эту возможность upstream. [Qwen inference](https://github.com/QwenLM/Qwen3-ASR/blob/main/qwen_asr/inference/qwen3_asr.py)
|
||||||
|
|
||||||
|
Отдельного результата по внутрифразовой смеси `ru/en` нет. Официальный русскоязычный пример monolingual; cross-language demo опубликован для 1.7B и другой группы языков. [Qwen3-ASR blog](https://qwen.ai/blog?id=qwen3asr)
|
||||||
|
|
||||||
|
Официальные aggregate WER для Qwen3-ASR 0.6B составляют `12.75` на CommonVoice, `15.84` на MLC-SLM и `7.57` на FLEURS. В эти наборы входит русский, но отдельный русский результат не опубликован. На тех же aggregate-срезах модель не всегда лучше Whisper large-v3: например, FLEURS `7.57` против `5.27`. Высокая отметка качества в Handy не доказывает выигрыш на русских встречах. [Evaluation table](https://huggingface.co/Qwen/Qwen3-ASR-0.6B#evaluation)
|
||||||
|
|
||||||
|
Официальные `2000x` относятся к vLLM BF16 при concurrency 128 и CUDA Graph. Это серверный GPU-throughput, не скорость одного файла на CPU. В transcribe.cpp на Ryzen 7 PRO 4750U Q8 показала около `4.1-4.6x` на двух коротких английских клипах, Vulkan около `7.3-8.7x`. Железо и аудио отличаются от проектного benchmark, поэтому прямое сравнение с `11.54x` GigaAM некорректно. Оно лишь объясняет отметку Handy о сравнительно низкой скорости. [Технический отчет](https://arxiv.org/abs/2601.21337), [локальные замеры порта](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/qwen3-asr-0.6b.md#performance)
|
||||||
|
|
||||||
|
#### Таймкоды
|
||||||
|
|
||||||
|
Qwen3-ASR возвращает текст и язык без timestamps. Официальный путь использует отдельную [`Qwen3-ForcedAligner-0.6B`](https://huggingface.co/Qwen/Qwen3-ForcedAligner-0.6B), которая поддерживает русский и английский, заявлена для аудио до пяти минут и выдает word/character alignment. Актуальный Python wrapper режет timestamp-вход на трехминутные чанки. Для часовой встречи потребуется второй набор весов и дополнительный inference.
|
||||||
|
|
||||||
|
Handy/transcribe.cpp работает с Qwen offline и не предоставляет VAD, streaming или timestamps. Официальный streaming доступен только через vLLM, без batching и timestamps; реализация повторно подает накопленное аудио на каждом шаге, то есть не дает cache-aware поведения Nemotron. [Исходный streaming path](https://github.com/QwenLM/Qwen3-ASR/blob/main/qwen_asr/inference/qwen3_asr.py), [ограничения transcribe.cpp](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/qwen3-asr.md)
|
||||||
|
|
||||||
|
#### Варианты интеграции
|
||||||
|
|
||||||
|
- **OpenVINO 2026.3:** ранняя поддержка Qwen3-ASR на CPU/GPU уже заявлена. Проект использует совместимую ветку OpenVINO, но текущий backend построен на `WhisperPipeline`. Нужны новый `ASRPipeline`, экспорт модели и проверка, какие сегменты возвращает API. Отдельный вопрос таймкодов остается. [OpenVINO 2026.3 release](https://github.com/openvinotoolkit/openvino/releases/tag/2026.3.0), [supported models](https://github.com/openvinotoolkit/openvino.genai/blob/master/site/docs/supported-models/index.mdx)
|
||||||
|
- **Официальный Python runtime:** Transformers работает offline и поддерживает batch, но добавляет PyTorch/Transformers и не решает timestamps без aligner.
|
||||||
|
- **transcribe.cpp:** дает готовые GGUF и CPU/Vulkan/Metal/CUDA, но потребует нового backend, внешнего VAD и отдельного aligner.
|
||||||
|
|
||||||
|
#### Вывод
|
||||||
|
|
||||||
|
Qwen отвечает языковым требованиям, но не полному контракту результата: обязательные таймкоды добавляют второй модельный этап и усложняют long-form pipeline. Опубликованных данных недостаточно, чтобы оценить, оправдает ли качество текста эту цену.
|
||||||
|
|
||||||
|
### Модели без русского языка
|
||||||
|
|
||||||
|
#### Canary 180M Flash
|
||||||
|
|
||||||
|
[`nvidia/canary-180m-flash`](https://huggingface.co/nvidia/canary-180m-flash) содержит 182 млн параметров и поддерживает только английский, немецкий, испанский и французский. Handy показывает Q8 GGUF 208 MB. Модель умеет ASR на этих языках и перевод между английским и тремя остальными, но автоматического определения языка нет. [Документация Handy](https://handy.computer/docs/models), [порт transcribe.cpp](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/canary-180m-flash.md)
|
||||||
|
|
||||||
|
Upstream Canary умеет экспериментальные word/segment timestamps через `transcribe(..., timestamps=True)`. За этим API стоит вспомогательный CTC-aligner внутри полного `.nemo`. Для аудио длиннее 10 секунд NVIDIA рекомендует long-form inference с чанками по 10 секунд. Handy не портирует aligner; готовый ONNX-export для `onnx-asr` содержит только encoder/decoder и возвращает текст без нужных token timestamps. Это нарушает текущий контракт `local-transcriber`, который требует слова со временем. [Canary timestamp usage](https://huggingface.co/nvidia/canary-180m-flash), [NeMo implementation](https://github.com/NVIDIA-NeMo/Speech/blob/main/nemo/collections/asr/models/aed_multitask_models.py), [заметки порта](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/canary-180m-flash.md)
|
||||||
|
|
||||||
|
Canary компактна и быстро работает на чистом `en/de/es/fr`, но русский для нее полностью out-of-domain. Она может быть интересна для отдельного English-first профиля, который не входит в область этого исследования.
|
||||||
|
|
||||||
|
#### Cohere Transcribe
|
||||||
|
|
||||||
|
[`CohereLabs/cohere-transcribe-03-2026`](https://huggingface.co/CohereLabs/cohere-transcribe-03-2026) имеет 2 млрд параметров и поддерживает 14 языков, среди которых нет русского. Автоопределения языка, timestamps и diarization нет; incremental audio streaming не документирован. Модель требует language tag, склонна распознавать non-speech и нуждается во внешнем VAD. [Strengths and limitations](https://huggingface.co/CohereLabs/cohere-transcribe-03-2026#strengths-and-limitations)
|
||||||
|
|
||||||
|
Handy использует Q5 GGUF размером 1.77 GB. Это примерно в восемь раз больше ONNX-весов GigaAM. На чистом английском Cohere показывает сильные результаты, но они ничего не говорят о русском. В рассматриваемом русском сценарии тяжелый backend без timestamps не дает полезного профиля. [GGUF-порт](https://github.com/handy-computer/transcribe.cpp/blob/main/docs/models/cohere-transcribe-03-2026.md)
|
||||||
|
|
||||||
|
## Рабочие гипотезы
|
||||||
|
|
||||||
|
- Word boosting в Nemotron может улучшить продуктовые названия и IT-термины, которые GigaAM распознает нестабильно.
|
||||||
|
- Свободный `context` в официальном runtime Qwen может дать похожий выигрыш, если выбранный локальный путь сохранит этот вход.
|
||||||
|
- Мультиязычность Nemotron и Qwen может помочь с английскими вставками, но сама по себе не доказывает устойчивость внутрифразового `ru/en` code-switch.
|
||||||
|
|
||||||
|
Все три гипотезы следуют из возможностей моделей. Результатов на проектных русских встречах для них пока нет.
|
||||||
|
|
||||||
|
## Рекомендация
|
||||||
|
|
||||||
|
Предварительная рекомендация - пока сохранить GigaAM текущим baseline. Nemotron выглядит основным кандидатом для локального сравнения, поскольку поддерживает русский и уже имеет runtime с пословными таймкодами. Qwen стоит рассматривать вторым кандидатом на качество текста; полный timestamp-профиль имеет смысл только при заметном выигрыше распознавания.
|
||||||
|
|
||||||
|
Canary 180M Flash и Cohere Transcribe не стоит включать в сравнение русского профиля, поскольку русский язык у них не поддерживается. Рекомендация сама по себе не меняет конфигурацию или модель по умолчанию.
|
||||||
|
|
||||||
|
## Что неизвестно до локального прогона
|
||||||
|
|
||||||
|
- Выигрывают ли Nemotron или Qwen у GigaAM на длинной русской речи, внутрифразовых `ru/en` переключениях и IT-терминах. Опубликованные WER этого не показывают.
|
||||||
|
- Каковы CPU-скорость, время загрузки и peak RSS полного рабочего профиля. Для Qwen сюда входят ASR и ForcedAligner, если нужны таймкоды.
|
||||||
|
- Сохраняются ли конец записи, пунктуация, числа и названия продуктов после long-form разбиения.
|
||||||
|
- Дают ли Nemotron word boosting и Qwen `context` воспроизводимый выигрыш на терминах без ухудшения обычной русской речи.
|
||||||
|
- Проходит ли результат обязательный контракт пословных таймкодов на всей записи. Для Nemotron путь уже существует в NeMo-Speech.cpp; для Qwen его практичность еще не подтверждена.
|
||||||
|
|
||||||
|
Подробный корпус, команды, режимы и критерии приемки в эту записку не входят. Если сравнительный эксперимент будет принят в работу, для него понадобится отдельная benchmark spec.
|
||||||
@@ -0,0 +1,442 @@
|
|||||||
|
# Карта end-to-end архитектур CPU-диаризации
|
||||||
|
|
||||||
|
**Дата:** 2026-09-01
|
||||||
|
|
||||||
|
**Статус:** выбран один кандидат для свежего минимального A/B - Streaming
|
||||||
|
Sortformer 4spk v2 Q8_0 через закрепленный NeMo-Speech.cpp. Это единственная
|
||||||
|
ветвь, где полная замена каскада опирается на готовые Q8_0 веса и закрепляемый
|
||||||
|
локальный CPU runtime. Production-профиль, CLI, конфигурационный контракт и
|
||||||
|
модель по умолчанию не меняются.
|
||||||
|
|
||||||
|
Документ сохраняет обезличенные агрегаты задач #41 и #42. Старые закрытые
|
||||||
|
хранилища временно остаются архивом только для чтения до завершения и приемки
|
||||||
|
задачи #46. Ни стенд, ни сравнение в задаче #46 не должны получать к ним доступ:
|
||||||
|
новая измерительная основа создается заново. После приемки нового результата
|
||||||
|
архив можно удалить; тогда его данные нельзя будет получить повторно без нового
|
||||||
|
вычисления. Здесь нет локальных путей, идентификаторов записей, текста,
|
||||||
|
временных интервалов, manifest-содержимого или сырых строк результата.
|
||||||
|
Непрозрачные SHA-256 уже опубликованных результатов оставлены как устойчивые
|
||||||
|
ссылки на исторические байты. Они не создают будущую зависимость от этих байтов.
|
||||||
|
|
||||||
|
## Источники реестра
|
||||||
|
|
||||||
|
- [Intel-отчет](../benchmarks/2026-08-31-cpu-diarization-intel.md);
|
||||||
|
- [Ryzen-отчет](../benchmarks/2026-08-31-cpu-diarization-ryzen.md);
|
||||||
|
- [спецификация прежнего эксперимента](../specs/2026-08-30-cpu-diarization-experiment.md);
|
||||||
|
- [ADR-007](../adr/007-word-level-speaker-diarization.md).
|
||||||
|
|
||||||
|
## Как читать реестр
|
||||||
|
|
||||||
|
`Ускорение` ниже означает сокращение wall time:
|
||||||
|
|
||||||
|
`100 x (wall_baseline - wall_candidate) / wall_baseline`.
|
||||||
|
|
||||||
|
Отрицательное значение означает замедление. Intel W/M/Q/E - одиночные
|
||||||
|
разведочные прогоны трех 300-секундных фрагментов, если явно не указана соседняя
|
||||||
|
пара. Ryzen-строки - принятые соседние A/B. ASR, загрузка моделей и декодирование
|
||||||
|
не входят в wall.
|
||||||
|
|
||||||
|
Обязательный автоматический gate: `3 / 2 / 2` голосовых кластера, неизменный
|
||||||
|
текст, повторяемые параметры/метки/финализация, конечные эмбеддинги и отсутствие
|
||||||
|
потерянных или продублированных входов. `51 / 13 / 9` слов без говорящего и
|
||||||
|
`mapped speaker purity = 0,76655 / 0,78742` - диагностика совпадающего baseline,
|
||||||
|
а не ручная истина. Рост диагностического показателя требует прослушивания, но
|
||||||
|
сам по себе не превращает вариант в проигравший.
|
||||||
|
|
||||||
|
## Переносимые рецепты
|
||||||
|
|
||||||
|
Все Intel-рецепты используют четыре физических ядра; Ryzen-рецепты - восемь.
|
||||||
|
Везде `inter_op_threads=1`, batch 1, если строка не говорит обратного.
|
||||||
|
Код измерительного стенда закреплен source commit
|
||||||
|
`6345cb6449d906767b6ed33e695f2ca4eeaf3008`; sherpa-onnx 1.13.6 - upstream
|
||||||
|
commit `1cb484af9b1ab05cc36f89e03dd7d76322f2e911` плюс опубликованный ниже патч.
|
||||||
|
Последовательные W0-рецепты используют CPU provider для segmentation и
|
||||||
|
embeddings, `debug=True` для обеих конфигураций,
|
||||||
|
`min_duration_on=0.3` и `min_duration_off=0.5`. Debug-режим входит в
|
||||||
|
измерительный рецепт: из его журнала получены native stage times.
|
||||||
|
|
||||||
|
| Recipe ID | Точный переносимый рецепт |
|
||||||
|
|---|---|
|
||||||
|
| `I-B135` | `sherpa-onnx/core 1.13.5`; Pyannote Segmentation 3.0 FP32; WeSpeaker ResNet34 LM FP32; `window_shift_ratio=0.1`; последовательный инференс; один worker/session; `intra_op=4`; `FastClustering`, auto-N, threshold `0.89`. |
|
||||||
|
| `I-B136` / `I-W0` / `I-M0` / `I-Q0` / `I-E0` / `I-C0` | Тот же профиль, но `sherpa-onnx/core 1.13.6`; это совпадающий Intel baseline. |
|
||||||
|
| `I-W(r)` | `I-B136`, меняется только `window_shift_ratio=r`. |
|
||||||
|
| `I-M2` / `I-C1` | `I-B136`, но CAMPPlus вместо WeSpeaker; NME автоматически выбрал `p=111/54/104`, затем N=`3/2/2` и `FastClustering(N)`; sequential. |
|
||||||
|
| `I-M3` | `I-B136`, но TitaNet small вместо WeSpeaker; NME автоматически выбрал `p=90/65/110`, затем N=`3/2/2` и `FastClustering(N)`; sequential. |
|
||||||
|
| `I-Q1` | `I-B136`, но WeSpeaker S8S8 QDQ вместо FP32; sequential. |
|
||||||
|
| `I-E1` / `I-C2` | `I-B136`, но два outer worker используют одну shared ONNX Runtime session и общий `intra_op=4`. |
|
||||||
|
| `I-E2` | `I-B136`, но четыре outer worker, одна shared session, `intra_op=1`. |
|
||||||
|
| `I-E3` | `I-B136`, но четыре outer worker и четыре отдельные session, у каждой `intra_op=1`; отрицательный контроль. |
|
||||||
|
| `R-B` | `sherpa-onnx/core 1.13.6`; Pyannote FP32; WeSpeaker FP32; shift `0.1`; `FastClustering(auto, 0.89)`; sequential; один worker/session; `intra_op=8`. |
|
||||||
|
| `R-C2` | `R-B`, но два outer worker, одна shared session, общий `intra_op=8`. |
|
||||||
|
|
||||||
|
Закрепленные SHA-256 моделей: Pyannote FP32
|
||||||
|
`220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079`,
|
||||||
|
WeSpeaker FP32
|
||||||
|
`e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012`,
|
||||||
|
WeSpeaker QDQ
|
||||||
|
`9a3f8ae64d1083b64a6276f1e1138b17b7511a9a8d731b632945efc84098588b`,
|
||||||
|
CAMPPlus
|
||||||
|
`aa3cfc16963a10586a9393f5035d6d6b57e98d358b347f80c2a30bf4f00ceba2`,
|
||||||
|
TitaNet small
|
||||||
|
`ad4a1802485d8b34c722d2a9d04249662f2ece5d28a7a039063ca22f515a789e`.
|
||||||
|
Экспериментальные `Prepare/Finalize` и shared worker требовали патч
|
||||||
|
`5f12df858cd525c8a0cfe8ff95b647c3b0e915a13d45621acc4ac42660014c49`:
|
||||||
|
API не было ни в 1.13.6, ни в проверенном upstream master. Ryzen-wheel был
|
||||||
|
пересобран из того же upstream commit и патча из-за несовместимости GLIBC;
|
||||||
|
его опубликованный SHA-256 -
|
||||||
|
`baaaa2532606f1e1411e5c84655afa70107ad4b1676420953f5e67233c46a484`.
|
||||||
|
|
||||||
|
## Реестр: baselines и проверки механизмов
|
||||||
|
|
||||||
|
| Stable ID | Recipe / измененная ось | Машина / стадия | Wall / ускорение / RSS | Обязательное качество | Решение и точная причина | Публичное доказательство |
|
||||||
|
|---|---|---|---|---|---|---|
|
||||||
|
| `41-V135` | `I-B135`; version baseline | Intel / version baseline | `190,104 с`; baseline; `365,7 МиБ` в соответствующем сыром агрегате | `3/2/2`, текст и диагностика baseline | Принят как контроль версии; одиночный запуск не доказывает причинное ускорение/замедление версии | `docs/benchmarks/2026-08-31-cpu-diarization-intel.md`, "Зачем понадобился 1.13.6" |
|
||||||
|
| `41-V136` | `I-B136`; меняется только runtime 1.13.5->1.13.6 | Intel / version baseline | `157,892 с`; `+16,94%` к `41-V135`; `356,7 МиБ` | `3/2/2`; канонические интервалы, назначения слов и диагностика совпали | Baseline 1.13.6 принят; разница времени диагностическая, без повторов | тот же раздел; SHA `eb7e3d508836e1eefd679a851271eaa6823d688fef39d2ae03978e7fa7006bba` |
|
||||||
|
| `41-S-WINDOW` | 1.13.6 принимает shift `0.10/0.15/0.20/0.25/0.50`; `0.10` сохраняет поведение | Intel / smoke | end-to-end wall/RSS: not measured | Smoke пройден | Допустить W0-W4 | `docs/specs/2026-08-30-cpu-diarization-experiment.md`, этап 0 |
|
||||||
|
| `41-S-PF` | Локальный `Prepare -> cluster(copy) -> Finalize` против штатного `process()` | Intel / smoke | wall/ускорение/RSS: not measured | Строки, метки и интервалы совпали; пропусков/дублей нет | Использовать патч в стенде | Intel-отчет, этап 0 |
|
||||||
|
| `41-S-MANIFEST` | Строгая schema v3 и стабильные ID ячеек | Intel / smoke | не применимо | Валидация капсулы: 199 файлов, QDQ доступен, предупреждений нет | Использовать; это механизм воспроизводимости, не измерительная ячейка | Ryzen-отчет, handoff |
|
||||||
|
| `41-S-CEIG` | CAMPPlus prepared-матрицы; eigengap | Intel / counter smoke | counter wall по трем матрицам `0,107 / 1,575 / 0,067 с`; end-to-end ускорение/RSS: not measured | N=`6/1/7`, не `3/2/2` | Исключить счетчик для CAMPPlus: обязательный count gate провален | Новый aggregate задачи #45 из frozen raw; previous result SHA not published |
|
||||||
|
| `41-S-CNME` | Те же CAMPPlus-матрицы; NME + `FastClustering(N)` | Intel / counter smoke | counter wall `3,536 / 1,488 / 1,148 с`; end-to-end ускорение/RSS: not measured | N=`3/2/2`, повторяемые метки, 0 потерянных строк | Выбрать для M2/C1 | Intel-отчет, индекс доказательств |
|
||||||
|
| `41-S-TEIG` | TitaNet prepared-матрицы; eigengap | Intel / counter smoke | counter wall `0,126 / 0,073 / 0,101 с`; end-to-end ускорение/RSS: not measured | N=`7/2/4`, не `3/2/2` | Исключить счетчик для TitaNet: count gate провален | Новый aggregate задачи #45 из frozen raw; previous result SHA not published |
|
||||||
|
| `41-S-TNME` | Те же TitaNet-матрицы; NME + `FastClustering(N)` | Intel / counter smoke | counter wall `1,084 / 0,780 / 1,112 с`; end-to-end ускорение/RSS: not measured | N=`3/2/2`, повторяемые метки, 0 потерянных строк | Выбрать для M3 | Intel-отчет, индекс доказательств |
|
||||||
|
| `41-S-QDQ` | WeSpeaker S8S8 QDQ, 48 независимых calibration-интервалов | Intel / artifact smoke | wall/ускорение/RSS: not measured | interface/opset/metadata, checker, dynamic shapes и загрузка sherpa пройдены | Допустить Q1; техническая корректность не означает качество/скорость | Intel-отчет, этап 0; model SHA выше |
|
||||||
|
| `41-S-SHARED` | Один и два worker, одна session, одинаковые prepared-входы | Intel / worker smoke | wall/ускорение/RSS: not measured | строки, метки и интервалы совпали; гонок/NaN/потерь нет | Допустить E1/E2 | Ryzen-отчет, этап 0 |
|
||||||
|
| `41-S-TB1` | TitaNet batch 1 | Intel / embedding smoke | embedding-only `75,923 с` суммарно; ускорение/RSS: not measured | штатные эмбеддинги воспроизведены, max abs drift <= `3,4e-6` | Контроль batch | Ryzen-отчет, этап 3; batch SHA `f12bfdb5cadf80c62871c0725eac744a99825cb5d06b70fcf11e4e538ff6df72` |
|
||||||
|
| `41-S-TB4` | TitaNet batch 4 | Intel / embedding smoke | embedding-only `98,596 с`, на `29,86%` медленнее batch 1; RSS: not measured | `3/2/2`, но метки всех трех матриц изменились; drift `0,277-0,317` | Остановить до CPU-ячейки: медленнее и нарушена идентичность меток | Ryzen-отчет, этап 3; тот же batch SHA |
|
||||||
|
|
||||||
|
Counter wall в строках `41-S-CEIG` и `41-S-TEIG` впервые опубликован в задаче
|
||||||
|
#45 как безопасный aggregate frozen raw evidence. Прежний result SHA не был
|
||||||
|
опубликован; после удаления хранилища эти числа нельзя повторно сверить с
|
||||||
|
исходными байтами.
|
||||||
|
|
||||||
|
Примечание к `41-V135`: публичный Intel-индекс печатает SHA
|
||||||
|
`c53c1f970ee4db094779bc32b42f978c37c2cb74d814504ccfac87f09e802ddd`,
|
||||||
|
но этот хеш связывает другой сырой агрегат (`148,806 с`), а не опубликованные
|
||||||
|
`190,104 с`. Сырой результат с `190,104 с` имеет неопубликованный хеш. Поэтому
|
||||||
|
для этой строки устойчивым публичным доказательством остается только якорь
|
||||||
|
публичного отчета; после удаления хранилища байтовая проверка числа невозможна.
|
||||||
|
|
||||||
|
## Реестр: Intel W/M/Q/E/C
|
||||||
|
|
||||||
|
| Stable ID | Recipe / измененная ось | Wall / ускорение / RSS | Обязательное качество и диагностика | Решение и точная причина | Публичное доказательство |
|
||||||
|
|---|---|---|---|---|---|
|
||||||
|
| `41-W0` | `I-W(0.10)`, совпадающий baseline | `148,220 с`; baseline; `361,2 МиБ` в том же raw result | pass `3/2/2`; слова без говорящего `51/13/9` | Принять shift `0.10` | SHA `32d513cd0e81fdca0e37484f86b5c4312d3573608493972a282302dd891cdf0e` |
|
||||||
|
| `41-W1` | `I-W(0.15)`; меняется только shift | `100,799 с`; `+31,99%`; `362,6 МиБ` | fail `2/2/2`; `50/17/9` | Исключить: потерян кластер на первом фрагменте | SHA `be8935b5a81e2aadaeb38540e615c0cd3ae5ac31d6e0949856fd7d16d31a78ea` |
|
||||||
|
| `41-W2` | `I-W(0.20)` | `76,127 с`; `+48,64%`; `363,6 МиБ` | fail `2/2/2`; `52/13/9` | Исключить: потерян кластер | SHA `f95433d516772d40c4071da0d0745b981314ee7a7063fb4a43518e94bc17848e` |
|
||||||
|
| `41-W3` | `I-W(0.25)` | `61,369 с`; `+58,60%`; `358,4 МиБ` | fail `2/2/2`; `59/16/11` | Исключить: потерян кластер | SHA `14cac4f1d8cd38ed5b4a20189438d2b1e109ba267c5feaa36f0928fbec848580` |
|
||||||
|
| `41-W4` | `I-W(0.50)` | `31,291 с`; `+78,89%`; `360,7 МиБ` | fail `1/2/2`; `0/19/10` | Исключить: потеряны два кластера суммарно относительно `3/2/2` | SHA `6fafefce00e90590ab2d834fb560413cd7780e20cbd1f631d9954ec8b97a540e` |
|
||||||
|
| `41-M0` | `I-M0`; baseline модельной оси | Переиспользован `41-W0`: `148,220 с`; `361,2 МиБ`; отдельное ускорение: not measured | Качество baseline прошло | Точка сравнения; не новая гипотеза | Ryzen-отчет, этап 2; SHA W0 выше |
|
||||||
|
| `41-M2` | `I-M2`; меняются embedding model и estimator N | `94,550 с`; `+36,21%`; `358,6 МиБ` | Обязательный gate пройден: `3/2/2`; `53/13/9` | Самая быстрая модельная ветвь; собрать C1, но диагностический рост требует слухового gate | SHA `3debc8ae5cf1bd13d806dbfe8e4cfa137d6705622a721f4a42f1a22c030ec277` |
|
||||||
|
| `41-M3` | `I-M3`; меняются embedding model и estimator N | `107,205 с`; `+27,67%`; `511,9 МиБ` | Обязательный gate пройден: `3/2/2`; `52/13/9` | Не выбирать: медленнее и тяжелее M2; обязательный gate при этом пройден | SHA `531a842234e35e29f582ff8a51406fb9dd6211e017b3162d80cca21d4732d316` |
|
||||||
|
| `41-Q0` | `I-Q0`; baseline quantization-оси | Переиспользован `41-W0`; отдельный raw aggregate: not published | Качество baseline прошло | Точка сравнения; не новая гипотеза | Старая спецификация, QDQ |
|
||||||
|
| `41-Q1` | `I-Q1`; FP32->S8S8 QDQ | `177,537 с`; `-19,78%` (замедление); `367,7 МиБ` | `fail`: `2/2/2`; `51/13/8` | Исключить: медленнее и потерян кластер | Intel-отчет, этапы 2-3; result SHA not published |
|
||||||
|
| `41-Q-U8-SKIP` | Условный U8U8; меняется формат квантизации; Intel / этап 3 | wall/ускорение/RSS: not measured | Качество: not measured | Ветка не открылась: S8S8 не достиг 10%-го порога продолжения и провалил обязательное качество | Старая спецификация, этап 3; result SHA not published |
|
||||||
|
| `41-E0a` | `I-E0`; companion baseline для E1 | Отдельные wall/ускорение/RSS: not published; отдельный result blob: not published; сравнительный W0=`148,220 с` | Качество baseline прошло | Служебная baseline-ячейка; самостоятельного решения нет | Intel-отчет, таблица ID ячеек |
|
||||||
|
| `41-E1` | `I-E1`; topology 1 worker->2 shared workers | `139,219 с`; `+6,07%`; `398,6 МиБ` | Качество прошло: `3/2/2`; метки/интервалы/диагностика совпали | Ниже Intel-порога продолжения, но допущен как заранее оговоренная ISA-гипотеза для собственного Ryzen A/B | SHA `f5ac41d29eeff1f7cfbb93497a0025aef40de0838e933e0f9baed30a236d6b85` |
|
||||||
|
| `41-E0b` | `I-E0`; companion baseline для E2 | Отдельные wall/ускорение/RSS: not published; сравнительный W0=`148,220 с` | Качество baseline прошло | Служебная baseline-ячейка | Intel-отчет, таблица ID ячеек |
|
||||||
|
| `41-E2` | `I-E2`; 4 shared workers, `intra_op=1` | `152,167 с`; `-2,66%`; `551,2 МиБ` | pass `3/2/2`, точное совпадение результата | Исключить: медленнее и больше RSS | SHA `f2664d354ede1e4bf2c42b974513cdc845ff601c73f30ebae51456764fd8dcdc` |
|
||||||
|
| `41-E0c` | `I-E0`; companion baseline для E3 | Отдельные wall/ускорение/RSS: not published; сравнительный W0=`148,220 с` | Качество baseline прошло | Служебная baseline-ячейка | Intel-отчет, таблица ID ячеек |
|
||||||
|
| `41-E3` | `I-E3`; shared->4 separate session | `159,038 с` составная оценка; `-7,30%`; `732,3 МиБ` process-wide | `pass`: `3/2/2`; метки совпали | Исключить: отрицательный контроль подтвердил рост времени и памяти; wall не равноправен штатному `process()` | Intel-отчет, этапы 2-3; result SHA not published |
|
||||||
|
| `41-C0` | `I-C0`; рабочий shift + baseline stack | wall/ускорение/RSS: not measured | по определению совпадает с прошедшим W0 | Явно пропущена как дубликат baseline | Intel-отчет, этап 1/4 |
|
||||||
|
| `41-C1` | `I-C1`; финальная проверка сильнейшей Intel-ветви | `98,347 с`; `+33,65%` к одиночному W0; `399,5 МиБ` | Обязательный gate пройден: `3/2/2`, purity `0,80137/0,91079`; слова `53/13/9` (`+2` на первом фрагменте) | **Неразрешенный слуховой gate: ни победитель, ни проигравший.** Не передавать до прослушивания подготовленных мест | SHA `4f96e6f7363e0edb79d4034a07f4d3b6b0003a820fcf6bceff5426bb3c2caff4` |
|
||||||
|
| `41-W0C2-SWAP` | `I-B136`; первая попытка guarded baseline; Intel / финальная пара | wall/ускорение/RSS: not published | Качество: not published | Отклонить: runtime guard обнаружил swap-in | Intel-отчет, раздел "Условия"; result SHA not published |
|
||||||
|
| `41-W0C2` | `I-B136`; соседний guarded baseline | `146,978 с`; baseline; `376,4 МиБ` | Качество прошло; диагностика baseline | Допустимая база сравнения только для `41-C2` | SHA `e572dd057ec87514aca4617465c48ce361677ae19279efcadbbde404afc85b5d` |
|
||||||
|
| `41-C2` | `I-C2`; baseline->2 shared workers | `140,632 с`; `+4,32%`; `406,0 МиБ` | Обязательная и диагностическая проверка точно совпала с `41-W0C2` | Intel-порог не достигнут; передать как работоспособную аппаратную ISA-гипотезу по явному правилу спецификации | SHA `d687074cc582e2ac379ed3375362f9480778feca02c7492a4c4be4fcc1a4f15a` |
|
||||||
|
|
||||||
|
`M1` не был ячейкой согласованной матрицы: нумерация spec - M0, M2, M3.
|
||||||
|
|
||||||
|
В публичной сводке для W0/M0 указан RSS `362,6 МиБ`, однако опубликованный
|
||||||
|
SHA W0 связывает wall `148,220 с` с RSS `361,2 МиБ`. В реестре выше сохранена
|
||||||
|
согласованная пара из одного raw result; публичные `362,6 МиБ` нельзя привязать
|
||||||
|
к тому же опубликованному SHA.
|
||||||
|
|
||||||
|
## Реестр: Ryzen, этапы 5-6
|
||||||
|
|
||||||
|
Для каждой A/B-строки recipe baseline - `R-B`, candidate - `R-C2`; меняется
|
||||||
|
только topology embedding-инференса. Все ячейки прошли обязательный gate и
|
||||||
|
сохранили baseline-диагностику (`3/2/2`, `51/13/9`, та же purity, те же числа
|
||||||
|
окон/embedding jobs, без потерь или дублей).
|
||||||
|
|
||||||
|
| Stable ID | Машина / стадия / порядок | Wall baseline -> candidate / ускорение | RSS baseline -> candidate | Решение и точная причина | Published result SHA-256 |
|
||||||
|
|---|---|---|---|---|---|
|
||||||
|
| `42-W0` | Ryzen / matching baseline | `110,998 с`; candidate: not measured | `370,4 МиБ`; candidate: not measured | Baseline принят | `f50684784392cacc2d99c8aee51d01f0a67dfee3da6ea3ba5f3db749a3d5287a` |
|
||||||
|
| `42-E1-AB` | Ryzen / isolated mechanism / W0->E1 | `111,557 -> 84,723 с`; `24,05%` | `367,3 -> 412,2 МиБ` | Механизм прошел качество, память и 10%-й порог продолжения | `24d5edae117e0619e432ef3f3019e8c66cf3516b87b80b64b8591390db25bf48` |
|
||||||
|
| `42-C2-P` | Ryzen / primary / C2->W0 | `111,423 -> 85,909 с`; `22,90%` | `369,6 -> 410,3 МиБ` | Прошел primary-порог; допустить пять циклов | `142db6d06efc8d558b38e18f47f47e3e35e7df00751da2583339f99add8d75c4` |
|
||||||
|
| `42-C2-F1` | Ryzen / final 1 / W0->C2 | `111,354 -> 83,529 с`; `24,99%` | `369,2 -> 413,4 МиБ` | Принятый цикл; качество pass | `4b5095c9e64ff0ef75bbc58516c662bedbbdb0bedf131f66cc1031c9a0ad8c7f` |
|
||||||
|
| `42-C2-F2` | Ryzen / final 2 / C2->W0 | `108,899 -> 83,907 с`; `22,95%` | `373,0 -> 418,1 МиБ` | Принятый цикл; качество pass | `256a17b2d08510aad03d43f5c626c1a4269c9a25271ce492dc3305c4afca1888` |
|
||||||
|
| `42-C2-F3` | Ryzen / final 3 / W0->C2 | `110,928 -> 84,968 с`; `23,40%` | `373,8 -> 410,9 МиБ` | Принятый цикл; качество pass | `b5d37c7a8b05b065c61bc9d5f1c0ab639a80a821730e505179388d90c4239caa` |
|
||||||
|
| `42-C2-F4` | Ryzen / final 4 / C2->W0 | `114,985 -> 83,342 с`; `27,52%` | `376,6 -> 411,1 МиБ` | Принятый цикл; качество pass | `639cc9f13511a59c7240c6fb6ec6bf1c31ec26350330e3ca0c64fb721b768736` |
|
||||||
|
| `42-C2-F5` | Ryzen / final 5 / W0->C2 | `113,233 -> 86,548 с`; `23,57%` | `358,6 -> 413,4 МиБ` | Принятый цикл; качество pass | `4ff2863a93fc22a037de5c292391b6b46de1b539cf397026b349ea5134cf1051` |
|
||||||
|
| `42-STAGE6-SKIP` | Ryzen / этап 6 / `R-B` и `R-C2` на трех полных записях | wall/ускорение: not measured | RSS: not measured | Этап пропущен: медиана финальных циклов `23,57%` ниже порога `30%`; качество: not measured | Ryzen-отчет, "Итог"; result SHA not published |
|
||||||
|
|
||||||
|
Итог C2: медиана сокращения `23,57%`, MAD `0,62 п. п.`; до порога `go`
|
||||||
|
`30%` не хватило `6,43 п. п.`. Качество и память прошли, скорость - нет;
|
||||||
|
решение всей воронки `new map`. Stage 6 (полные записи и пятичастная слуховая
|
||||||
|
приемка) не запускался, потому что победителя нет.
|
||||||
|
|
||||||
|
## Измеренное разложение текущего Ryzen baseline
|
||||||
|
|
||||||
|
### Семантика полей
|
||||||
|
|
||||||
|
В непатченном последовательном baseline outer `wall_seconds` измеряется вокруг
|
||||||
|
одного `diarizer.process(samples)`. Native debug отдельно дает
|
||||||
|
`segmentation_seconds`, `embedding_seconds`, `clustering_seconds` и
|
||||||
|
`engine_total_seconds`. Поэтому для каждого из трех фрагментов, а затем для их
|
||||||
|
суммы, допустимо вычислить:
|
||||||
|
|
||||||
|
`orchestration = measured outer wall - native engine total`.
|
||||||
|
|
||||||
|
Это остаток границы Python/native плюс progress callback и измерительный
|
||||||
|
обвес; схема не позволяет разложить его дальше и не доказывает, что весь остаток
|
||||||
|
принадлежит production-коду. Native stage и native total напечатаны с точностью
|
||||||
|
до `0,001 с`; таблица округляет итоговые суммы до `0,001 с`. Разность использует
|
||||||
|
сохраненные числа, до отображения не округляется.
|
||||||
|
|
||||||
|
У патченного shared-session runner `engine_total_seconds` намеренно записан
|
||||||
|
равным outer wall всего `Prepare + counter + clustering + Finalize`. Это не
|
||||||
|
отдельный native total. Поэтому для E1/C2 нельзя честно вычислить orchestration
|
||||||
|
как `outer - native`: соответствующая величина **недоступна**, а ноль был бы
|
||||||
|
артефактом схемы.
|
||||||
|
|
||||||
|
### Сумма трех записей в каждой принятой baseline-ячейке
|
||||||
|
|
||||||
|
| Baseline ID | Outer wall, с | Segmentation, с | Embeddings, с | Clustering, с | Native engine total, с | Orchestration, с |
|
||||||
|
|---|---:|---:|---:|---:|---:|---:|
|
||||||
|
| `42-W0` | 110,998 | 18,233 | 82,172 | 0,015 | 100,444 | 10,554 |
|
||||||
|
| `42-E1-AB/W0` | 111,557 | 17,888 | 82,952 | 0,015 | 100,871 | 10,686 |
|
||||||
|
| `42-C2-P/W0` | 111,423 | 19,685 | 83,635 | 0,014 | 103,357 | 8,066 |
|
||||||
|
| `42-C2-F1/W0` | 111,354 | 18,614 | 84,596 | 0,015 | 103,240 | 8,114 |
|
||||||
|
| `42-C2-F2/W0` | 108,899 | 21,071 | 79,911 | 0,012 | 101,010 | 7,889 |
|
||||||
|
| `42-C2-F3/W0` | 110,928 | 21,204 | 81,722 | 0,016 | 102,960 | 7,968 |
|
||||||
|
| `42-C2-F4/W0` | 114,985 | 19,594 | 84,715 | 0,013 | 104,342 | 10,643 |
|
||||||
|
| `42-C2-F5/W0` | 113,233 | 21,625 | 82,884 | 0,013 | 104,540 | 8,693 |
|
||||||
|
| **Суммарно: 8 ячеек / 24 записи** | **893,377** | **157,914** | **662,587** | **0,113** | **820,764** | **72,613** |
|
||||||
|
|
||||||
|
Stage-суммы отличаются от native total pooled на `0,150 с` (`0,017%` outer
|
||||||
|
wall): это ожидаемый остаток тысячного округления native debug, а не оцененная
|
||||||
|
пятая стадия.
|
||||||
|
|
||||||
|
Медианы по восьми matching baselines, рассчитанные из показанных значений без
|
||||||
|
промежуточного округления: outer `111,388 с`, segmentation `19,6395 с`,
|
||||||
|
embeddings `82,918 с`, clustering `0,0145 с`, native total
|
||||||
|
`103,100 с`, orchestration `8,404 с`.
|
||||||
|
|
||||||
|
Наблюдаемый spread (max-min, процент относительно min):
|
||||||
|
|
||||||
|
| Величина | Диапазон, с | Spread |
|
||||||
|
|---|---:|---:|
|
||||||
|
| Outer wall | `108,899-114,985` | `6,087 с` / `5,59%` |
|
||||||
|
| Segmentation | `17,888-21,625` | `3,737 с` / `20,89%` |
|
||||||
|
| Embeddings | `79,911-84,715` | `4,804 с` / `6,01%` |
|
||||||
|
| Clustering | `0,012-0,016` | `0,004 с`; относительный процент неинформативен при гранулярности `0,001 с` |
|
||||||
|
| Native total | `100,444-104,540` | `4,096 с` / `4,08%` |
|
||||||
|
| Orchestration residual | `7,889-10,686` | `2,797 с` / `35,45%` |
|
||||||
|
|
||||||
|
Это объясняет, почему Intel-разница W0/C2 `4,32%` неотличима от наблюдавшегося
|
||||||
|
там разброса, а Ryzen-финал опирался на парные циклы, а не на один baseline.
|
||||||
|
|
||||||
|
## Доли, проверенные механизмы и Amdahl ceiling
|
||||||
|
|
||||||
|
Доли ниже - pooled stage time / pooled outer wall восьми matching Ryzen
|
||||||
|
baseline. Amdahl ceiling предполагает невозможное идеальное удаление ровно
|
||||||
|
одного компонента при неизменности остальных:
|
||||||
|
|
||||||
|
`max speedup = 1 / (1 - share)`.
|
||||||
|
|
||||||
|
| Компонент | Измеренная доля current Ryzen wall | Уже проверенные сокращения | Что осталось после эксперимента | Теоретический ceiling |
|
||||||
|
|---|---:|---|---|---:|
|
||||||
|
| Segmentation | `17,676%` | W1-W4 уменьшали число окон `291->195/146/117/59` на каждом фрагменте и вместе число embedding jobs; wall падал до `31,291 с`, но уже W1 потерял обязательный кластер | Без новой segmentation-модели/логики окон дальнейшее увеличение shift закрыто quality gate | максимум `1,2147x` (`17,676%` сокращения wall) при полном устранении стадии |
|
||||||
|
| Embeddings | `74,167%` | CAMPPlus+NME (`36,21%` Intel, слуховой gate C1 открыт), TitaNet+NME (`27,67%`, тяжелее M2), QDQ (медленнее и fail), shared session (Ryzen median `23,57%`), 4 workers/separate sessions (хуже), TitaNet batch 4 (медленнее и другие метки) | Это доминирующая измеренная стадия; локальные замены прежнего каскада не дали принятого 30%-победителя | максимум `3,8709x` (`74,167%` wall) при полном устранении стадии |
|
||||||
|
| Clustering | `0,013%` | Eigengap быстро, но неверный N; NME дал правильный N для CAMPPlus/TitaNet, однако его отдельный counter wall измеряется секундами и не является baseline native clustering time | Ускорять baseline `FastClustering` бессмысленно по Amdahl; менять алгоритм можно только ради качества/архитектуры | максимум `1,00013x` (`0,013%` wall) |
|
||||||
|
| Orchestration residual | `8,128%` | `Prepare/Finalize` и shared worker прошли correctness smoke; отдельного эксперимента на сокращение остатка не было | Нельзя отделить project orchestration от callback/RSS/harness; candidate-side доля недоступна из текущей схемы | максимум `1,0885x` (`8,128%` wall) при полном устранении остатка |
|
||||||
|
|
||||||
|
Сумма четырех долей `99,983%`; недостающие `0,017%` - только эффект
|
||||||
|
округления native stage logs. Нельзя складывать наблюденные ускорения разных
|
||||||
|
ячеек как независимые: W-ветвь одновременно сокращала segmentation и число
|
||||||
|
embedding jobs, а shared-session меняла исполнение embedding внутри патченного
|
||||||
|
runner.
|
||||||
|
|
||||||
|
## Открытые gates и неизмеренные факты
|
||||||
|
|
||||||
|
1. **C1 остается неразрешенным слуховым gate - ни победитель, ни проигравший.**
|
||||||
|
Обязательная автоматическая проверка прошла, скорость на Intel превысила
|
||||||
|
30%, purity выросла, но два
|
||||||
|
дополнительных слова без говорящего требуют человеческого прослушивания.
|
||||||
|
Автоматические метрики не разрешают этот выбор.
|
||||||
|
2. Полные записи не измерялись ни для C1, ни для C2. C1 не дошла до Ryzen, C2
|
||||||
|
не прошла финальный порог скорости.
|
||||||
|
3. Ryzen C1 wall/RSS/quality неизвестны полностью; переносить Intel `33,65%` на
|
||||||
|
другую ISA нельзя.
|
||||||
|
4. Для shared-session E1/C2 нет schema-compatible native total и, следовательно,
|
||||||
|
нет candidate-side orchestration share. Доступные segmentation/embedding/
|
||||||
|
clustering поля не закрывают остаток `counter + Finalize + Python` отдельными
|
||||||
|
сопоставимыми стадиями.
|
||||||
|
5. Orchestration baseline - измеренный residual, но его production/harness
|
||||||
|
состав не измерен.
|
||||||
|
6. Температура Ryzen во время ячеек недоступна. Внешний power/throttle
|
||||||
|
guard прошел, но не заменяет сенсор внутри WSL.
|
||||||
|
7. Intel W/M/Q/E разведка - по одному прогону, ранние ячейки не чередовались;
|
||||||
|
их проценты не являются оценкой дисперсии.
|
||||||
|
8. End-to-end архитектуры не входили в матрицу. Измерены только локальные
|
||||||
|
изменения прежнего каскада.
|
||||||
|
9. `M1` отсутствует по дизайну, C0 пропущена как точный baseline-дубликат,
|
||||||
|
stage 6 пропущен по правилу "нет победителя"; это известные пропуски, а не
|
||||||
|
потерянные результаты.
|
||||||
|
10. Отдельные агрегаты Intel companion-ячеек M0/Q0/E0 не опубликованы. Их можно
|
||||||
|
использовать только как recipe-alias W0, а не выдавать за новые замеры.
|
||||||
|
|
||||||
|
## Что станет невосстановимым после удаления замороженных хранилищ
|
||||||
|
|
||||||
|
Удаление обоих хранилищ отложено до завершения и приемки задачи #46. Пока они
|
||||||
|
сохраняются, их можно использовать только для ретроспективного аудита старых
|
||||||
|
результатов, но не как вход или базу сравнения нового опыта. После удаления
|
||||||
|
останутся публичные рецепты, агрегаты, решения и непрозрачные хеши, но сами хеши
|
||||||
|
уже нельзя будет повторно сверить с исходными байтами.
|
||||||
|
|
||||||
|
Без нового model run или повторной подготовки будут потеряны:
|
||||||
|
|
||||||
|
- все raw per-recording outer/stage/CPU/RSS значения за пределами опубликованных
|
||||||
|
агрегатов, включая точное восьмиклеточное Ryzen-разложение;
|
||||||
|
- сырые интервалы разметки говорящих, назначения слов, диагностические records,
|
||||||
|
ASR-sidecars и опорные материалы;
|
||||||
|
- prepared embedding-матрицы, row mappings, промежуточные результаты счетчиков,
|
||||||
|
worker requests и native logs, которыми проверялись строки/метки/финализация;
|
||||||
|
- runtime-guard свидетельства и полное состояние планировщика/manifest, включая
|
||||||
|
непубличные идентификаторы ячеек и порядок внутренних повторов;
|
||||||
|
- подготовленные C1 listening excerpts и plan. Пока архив существует, они
|
||||||
|
доступны только для отдельного аудита C1 и не входят в задачу #46. После
|
||||||
|
удаления для будущего решения C1 придется заново построить минимальный
|
||||||
|
baseline/C1 diff и новые excerpts из исходных записей;
|
||||||
|
- calibration provenance и байты QDQ-графа, локальные wheel/patch artifacts,
|
||||||
|
если они отдельно не сохранены; опубликованный SHA доказывает идентичность
|
||||||
|
только при наличии байтов;
|
||||||
|
- возможность расследовать расхождения публичного 1.13.5 hash/wall и W0 RSS по
|
||||||
|
исходным файлам.
|
||||||
|
|
||||||
|
Исходные записи, по условию задачи #45, останутся лишь удобными входами для нового
|
||||||
|
минимального среза. Они не восстанавливают старые sidecars, prepared matrices,
|
||||||
|
слуховой plan, environment state или старые timing samples без повторного
|
||||||
|
вычисления.
|
||||||
|
|
||||||
|
## Граница выводов
|
||||||
|
|
||||||
|
Исторические строки выше описывают прежний каскад и прежние контрольные
|
||||||
|
фрагменты. Они отвечают на вопрос, какие локальные изменения уже проверены.
|
||||||
|
Новый эксперимент создает из сохраненных исходных записей собственные
|
||||||
|
фрагменты, ASR-sidecar, опорную разметку, baseline-диагностику и закрытое
|
||||||
|
хранилище результата. Числа `3 / 2 / 2`, `51 / 13 / 9` и прежняя purity
|
||||||
|
остаются характеристиками старых контролей. В новый gate переходят правила
|
||||||
|
точного совпадения с заново проверенным числом голосовых кластеров,
|
||||||
|
неизменности текста и безопасной памяти.
|
||||||
|
|
||||||
|
C1 после удаления старого слухового материала остается исторически
|
||||||
|
неразрешенной. Для ее повторного открытия требуется свежая минимальная пара
|
||||||
|
W0/C1 и заново подготовленный материал для прослушивания. Карта и следующий
|
||||||
|
эксперимент эту работу не выполняют.
|
||||||
|
|
||||||
|
## Класс архитектур и формула полной замены
|
||||||
|
|
||||||
|
Текущий путь строит разметку говорящих каскадом `segmentation -> embeddings ->
|
||||||
|
clustering`. В sherpa-onnx 1.13.6 отдельный эмбеддинг вычисляется для каждой
|
||||||
|
пары локального говорящего и окна; это подтверждает
|
||||||
|
[upstream-реализация](https://github.com/k2-fsa/sherpa-onnx/blob/v1.13.6/sherpa-onnx/csrc/offline-speaker-diarization-pyannote-impl.h).
|
||||||
|
Суммарное разложение выше показывает, что локальные изменения embeddings имеют
|
||||||
|
большой доступный бюджет, однако принятый 30%-й результат на Ryzen не получен.
|
||||||
|
|
||||||
|
Для сравнения архитектур используется одна формула:
|
||||||
|
|
||||||
|
```text
|
||||||
|
B = S + E + C + O
|
||||||
|
T_candidate = B - R + A
|
||||||
|
speedup = (R - A) / B
|
||||||
|
идеальный предел при A = 0: R / B
|
||||||
|
```
|
||||||
|
|
||||||
|
`B` - measured outer wall текущего W0; `S`, `E` и `C` - измеренные native
|
||||||
|
стадии; `O` - derived residual `outer wall - native engine total`; `R` - работа
|
||||||
|
старого пути, которую удаляет гипотеза; `A` - измеряемая работа новой
|
||||||
|
архитектуры. Для полной замены `R = B`, поэтому фактическое сокращение равно
|
||||||
|
`1 - A / B`. Upstream не публикует переносимый CPU RTF для выбранной модели;
|
||||||
|
числовой прогноз `A` отсутствует. Его определит свежий A/B.
|
||||||
|
|
||||||
|
## Реестр архитектурных гипотез
|
||||||
|
|
||||||
|
### A1. Streaming Sortformer v2 Q8_0 через NeMo-Speech.cpp - выбран
|
||||||
|
|
||||||
|
**Механизм и затронутые стадии.** NEST/Fast-Conformer encoder и следующий за
|
||||||
|
ним Transformer выдают четыре sigmoid-потока активности. Arrival-Order Speaker
|
||||||
|
Cache связывает говорящих между streaming-чанками; порядок меток задается
|
||||||
|
первым появлением голоса. Модель возвращает `T x 4` вероятностей с шагом 80 мс
|
||||||
|
и заменяет текущие segmentation, embeddings, подсчет/кластеризацию и
|
||||||
|
финализацию. Архитектура описана в
|
||||||
|
[карточке модели NVIDIA](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2)
|
||||||
|
и [первичной статье](https://arxiv.org/abs/2507.18446).
|
||||||
|
|
||||||
|
**Поведение quality gate.** Потери W1-W4 возникли после прореживания
|
||||||
|
10-секундных окон перед независимыми эмбеддингами. Sortformer оценивает
|
||||||
|
перекрывающиеся активности общей сетью и не использует эту сетку или порог AHC.
|
||||||
|
Ошибки могут перейти в границы 80-мс кадров, рождение канала и сохранение метки
|
||||||
|
в speaker cache, поэтому точное число кластеров и слуховая проверка остаются
|
||||||
|
обязательными.
|
||||||
|
|
||||||
|
**Предел и риск.** Полная замена дает идеальный предел 100% вызова, а
|
||||||
|
фактическое сокращение `1 - A_sortformer / B`. Опубликованный RTF `0,002`
|
||||||
|
измерен на RTX 6000 Ada, batch 1, и не является CPU-прогнозом
|
||||||
|
([model card](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#setting-up-streaming-configuration)).
|
||||||
|
Модель имеет четыре выходных канала говорящих; NVIDIA предупреждает о
|
||||||
|
деградации на пяти и более слышимых голосах, неанглийской речи, другом домене и
|
||||||
|
очень длинных записях
|
||||||
|
([technical limitations](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#technical-limitations)).
|
||||||
|
|
||||||
|
**Самая дешевая фальсификация.** На Ryzen выполнить один свежий W0 и одну
|
||||||
|
соседнюю пару W0/Sortformer на трех заново определенных пятиминутных
|
||||||
|
фрагментах. Остановить ветвь при несовпадении с новыми ожидаемыми числами
|
||||||
|
кластеров, нарушении текстовой инвариантности, OOM/swap/росте RSS без плато или
|
||||||
|
ускорении меньше 10%. Точный контракт находится в
|
||||||
|
[спецификации следующего эксперимента](../specs/2026-09-01-streaming-sortformer-cpu-experiment.md).
|
||||||
|
|
||||||
|
**Повторное использование.** Переносятся рецепт Ryzen W0, правила gate,
|
||||||
|
каноническое сведение `Word` с `SpeakerInterval`, безопасные агрегаты и
|
||||||
|
сохраненные исходные записи. Sidecar, опорная разметка, фрагменты и закрытое
|
||||||
|
хранилище создаются заново. Prepared matrices, старые интервалы, патч и wheel
|
||||||
|
не используются.
|
||||||
|
|
||||||
|
**Исполнимость.** NVIDIA публикует готовый Q8_0 GGUF, нативный Apache-2.0
|
||||||
|
runtime с CPU backend и отдельным API диаризации
|
||||||
|
([NeMo-Speech.cpp](https://github.com/NVIDIA/NeMo-Speech.cpp),
|
||||||
|
[C ABI](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/include/nemo_speech/diar.h)).
|
||||||
|
Веса имеют CC BY 4.0. Runtime и модель закреплены в следующей спецификации.
|
||||||
|
Выбор разрешает только изолированный исследовательский стенд.
|
||||||
|
|
||||||
|
### A2-A6. Фальсифицируемые альтернативы
|
||||||
|
|
||||||
|
| ID | Механизм и отличие quality gate | Предел скорости | Главный риск | Самый дешевый тест | Что можно использовать повторно | Решение |
|
||||||
|
|---|---|---|---|---|---|---|
|
||||||
|
| `A2` LS-EEND | Causal encoder, online attractors и retention полностью заменяют `B`; нет окон Pyannote, отдельных voice embeddings и AHC. [Официальный код](https://github.com/Audio-WestlakeU/FS-EEND), [статья](https://doi.org/10.1109/TASLPRO.2025.3597446). | `1 - A_ls-eend / B`; CPU `A` не опубликована. | Публичные checkpoints привязаны к 8 кГц и доменам; готовой ONNX/GGUF CPU-поставки нет; возможен дрейф attractor. | До контрольного аудио проверить официальный checkpoint, лицензию, CPU device и однозначный 16-кГц/resampling contract; затем синтетический 60-секундный smoke. | Свежие входы, sidecar и общие gate; prepared embeddings неприменимы. | Отложить: A1 проверяет полную streaming-замену с готовым CPU runtime дешевле. |
|
||||||
|
| `A3` EEND-EDA | Self-attentive encoder и LSTM attractors выдают одновременные активности и собственный stop condition вместо AHC-N. [Статья](https://arxiv.org/abs/2005.09921), [официальная реализация](https://github.com/hitachi-speech/EEND). | `1 - A_eend-eda / B`; full-context attention может расти квадратично по длине. | Нет закрепленного универсального checkpoint и документированного CPU deployment; ошибка stop condition меняет N. | Сначала найти официальный checkpoint с лицензией, 16-кГц контрактом и CPU inference. До этого аудио не запускать. | Только свежие входы и общие gate. | Отложить до появления измеримого CPU artifact. |
|
||||||
|
| `A4` EEND-VC / DiariZen | Local EEND совместно строит активности и vectors, constrained clustering связывает чанки; старые пороговые отказы не обязаны повториться. [EEND-VC](https://arxiv.org/abs/2105.09040), [DiariZen](https://github.com/BUTSpeechFIT/DiariZen), [pruning](https://arxiv.org/abs/2506.18623). | Удаляются `S+E+C`, добавляются WavLM/Conformer и новый clustering; CPU `A` не опубликована. | Даже pruned-модель требует 3,8 GMAC/s; официальный рецепт ориентирован на CUDA/Python 3.10; веса CC BY-NC 4.0. | В изолированной среде проверить импорт CPU и 30-секундный публичный sample; закрыть при несовместимости или RTF хуже W0. | Свежие входы и общие gate. | Отклонить для короткого списка: CPU path и лицензия не подходят следующему дешевому срезу. |
|
||||||
|
| `A5` pyannote Community-1 | Powerset segmentation, WeSpeaker, VBx и exclusive diarization меняют границы и оценку N, сохраняя embedding cascade. [Исходник pipeline](https://github.com/pyannote/pyannote-audio/blob/main/src/pyannote/audio/pipelines/speaker_diarization.py), [model card](https://huggingface.co/pyannote/speaker-diarization-community-1), [powerset loss](https://arxiv.org/abs/2310.13025). | Гарантированно удаляется лишь старая clustering/часть сведения; ее measured ceiling близок к нулю. Batching остается неизмеренной реализационной гипотезой. | Тяжелый PyTorch runtime, предварительная авторизованная загрузка; dense segmentation и embedding cost сохраняются. | 60-секундный публичный CPU stage-profile с RSS; закрыть, если total не лучше W0 минимум на 10%. | Свежие слова, assignment-диагностика и категории прослушивания. | Отклонить: не атакует полную доминирующую работу каскада. |
|
||||||
|
| `A6` NeMo MSDD | MarbleNet VAD, multi-scale TitaNet embeddings, clustering и neural decoder меняют все стадии и восстанавливают overlap. [Статья](https://arxiv.org/abs/2203.15974), [официальный код](https://github.com/NVIDIA-NeMo/Speech/tree/main/examples/speaker_tasks/diarization). | Знак ускорения неизвестен: VAD сокращает тишину, несколько embedding scales и decoder добавляют работу. | Штатный pretrained MSDD ориентирован на телефонию; готового meeting GGUF/ONNX CPU path нет; начальная ошибка N переходит в decoder. | До аудио потребовать подходящий meeting checkpoint и CPU contract; затем публичный 30-секундный stage smoke. | Свежие входы и общие gate. | Отклонить: добавляет embedding work без готового целевого CPU runtime. |
|
||||||
|
|
||||||
|
Реестр оставляет A2-A6 проверяемыми: для каждой ветви записан факт, который
|
||||||
|
может изменить решение. Второй кандидат в короткий список не добавлен, потому
|
||||||
|
что для него сначала пришлось бы создавать runtime или выбирать новые веса.
|
||||||
|
|
||||||
|
## Решение и владение соседними задачами
|
||||||
|
|
||||||
|
Следующее измерение проверяет ровно A1. Причины выбора: полная замена старого
|
||||||
|
вызова, готовые Q8_0 веса, закрепляемый нативный CPU runtime и standalone
|
||||||
|
разметка говорящих без изменения ASR. Контракт исполняет
|
||||||
|
[задача #46](https://git.dementev.space/ddmitry/local-transcriber/issues/46).
|
||||||
|
В задаче #45 модель и аудио не запускались.
|
||||||
|
|
||||||
|
Параллельное планирование ASR и диаризации целиком принадлежит
|
||||||
|
[задаче #22](https://git.dementev.space/ddmitry/local-transcriber/issues/22).
|
||||||
|
Автоматическое включение принадлежит
|
||||||
|
[задаче #23](https://git.dementev.space/ddmitry/local-transcriber/issues/23).
|
||||||
|
Joint ASR+diarization и shared-ASR-encoder меняют путь распознавания и исключены
|
||||||
|
из этой карты. ASR-sidecar используется только как свежий quality input.
|
||||||
|
|
||||||
|
Принятие A1 после эксперимента означает право подготовить отдельное
|
||||||
|
production-решение. Оно не меняет [ADR-007](../adr/007-word-level-speaker-diarization.md)
|
||||||
|
и не разрешает поставку NeMo-Speech.cpp в основном dependency graph.
|
||||||
@@ -37,13 +37,13 @@
|
|||||||
Floor берётся сразу 3.13, а не минимально достаточный 3.11: любой подъём версии
|
Floor берётся сразу 3.13, а не минимально достаточный 3.11: любой подъём версии
|
||||||
всё равно требует прогона на всех трёх платформах, и дорого именно тестирование,
|
всё равно требует прогона на всех трёх платформах, и дорого именно тестирование,
|
||||||
а не строка в `pyproject.toml`. Один переезд вместо двух. Проект ставится там,
|
а не строка в `pyproject.toml`. Один переезд вместо двух. Проект ставится там,
|
||||||
где доступны uv и PyPI, поэтому uv сам поднимет нужный интерпретатор; закрытых
|
где доступны uv и PyPI; команда установки явно запрашивает Python 3.13, поэтому
|
||||||
контуров и оффлайн-зеркал среди пользователей нет.
|
uv найдёт или скачает нужный интерпретатор. Закрытых контуров и оффлайн-зеркал
|
||||||
|
среди пользователей нет.
|
||||||
|
|
||||||
Рабочая версия фиксируется файлом `.python-version` (сейчас его в репозитории
|
Рабочая версия фиксируется файлом `.python-version`. Floor разрешает любой
|
||||||
нет). Floor разрешает любой интерпретатор от 3.13 и выше, а пин делает окружение
|
интерпретатор от 3.13 и выше, а пин делает окружение одинаковым на разных
|
||||||
одинаковым на разных машинах — иначе расхождение вылезает именно тогда, когда
|
машинах — иначе расхождение вылезает именно тогда, когда что-то отлаживаешь.
|
||||||
что-то отлаживаешь.
|
|
||||||
|
|
||||||
Колёса cp313 проверены для всех нативных зависимостей и всех трёх целевых
|
Колёса cp313 проверены для всех нативных зависимостей и всех трёх целевых
|
||||||
платформ — Windows, Linux, macOS: `openvino-genai` 2026.0.0.0, `ctranslate2`
|
платформ — Windows, Linux, macOS: `openvino-genai` 2026.0.0.0, `ctranslate2`
|
||||||
|
|||||||
@@ -23,7 +23,7 @@
|
|||||||
|
|
||||||
## Не входит
|
## Не входит
|
||||||
|
|
||||||
- Автоматическое включение диаризации без флага и `--no-diarize`.
|
- Аппаратно-зависимое автоматическое включение диаризации.
|
||||||
- Параллельный запуск ASR и диаризации.
|
- Параллельный запуск ASR и диаризации.
|
||||||
- Сопоставление `Speaker N` с именами участников.
|
- Сопоставление `Speaker N` с именами участников.
|
||||||
- Постоянный кеш разметки говорящих, голосовые эмбеддинги и диагностические
|
- Постоянный кеш разметки говорящих, голосовые эмбеддинги и диагностические
|
||||||
@@ -33,10 +33,12 @@
|
|||||||
|
|
||||||
## Пользовательский интерфейс
|
## Пользовательский интерфейс
|
||||||
|
|
||||||
- `--diarize` включает диаризацию. По умолчанию она выключена; ключ в
|
- `--diarize` включает диаризацию, `--no-diarize` явно выключает. Булев ключ
|
||||||
`.transcriber.toml` в первой версии не добавляется.
|
`diarize` в `.transcriber.toml` задаёт значение по умолчанию; без него
|
||||||
|
диаризация выключена. CLI-флаги имеют приоритет над конфигом.
|
||||||
- `--speakers N`, где `N >= 1`, задаёт известное число участников и сам включает
|
- `--speakers N`, где `N >= 1`, задаёт известное число участников и сам включает
|
||||||
диаризацию. Без него число кластеров определяется автоматически.
|
диаризацию. Без него число кластеров определяется автоматически. Сочетание
|
||||||
|
`--speakers N` с `--no-diarize` считается ошибкой использования.
|
||||||
- `--threads N` остаётся единым бюджетом активного CPU-прохода. Значение целиком
|
- `--threads N` остаётся единым бюджетом активного CPU-прохода. Значение целиком
|
||||||
получает сначала ASR, затем диаризация; `0` оставляет настройки библиотек.
|
получает сначала ASR, затем диаризация; `0` оставляет настройки библиотек.
|
||||||
- `--verbose` показывает в консоли прогресс, число кластеров и интервалов,
|
- `--verbose` показывает в консоли прогресс, число кластеров и интервалов,
|
||||||
|
|||||||
@@ -151,9 +151,10 @@
|
|||||||
|
|
||||||
За пределами Git остаются manifest, записи, WAV-кеш, ASR-sidecar, опорные
|
За пределами Git остаются manifest, записи, WAV-кеш, ASR-sidecar, опорные
|
||||||
транскрипты, сырые интервалы, результаты, worker requests, журналы и материалы
|
транскрипты, сырые интервалы, результаты, worker requests, журналы и материалы
|
||||||
слуховой проверки. Рабочий каталог стенда нельзя размещать в обычной
|
слуховой проверки. Рабочий каталог стенда нельзя размещать в `.scratch`: этот
|
||||||
`.scratch`: репозиторий игнорирует там только служебный каталог
|
каталог локален и целиком игнорируется, поэтому эксперимент из него не
|
||||||
`.scratch/handoffs/`, не связанный с переносом эксперимента между ноутбуками.
|
переносится между ноутбуками. Временно закрепленные диагностические скрипты уже
|
||||||
|
отслеживаются Git и не меняют этого правила для новых материалов.
|
||||||
|
|
||||||
Публичный отчет содержит хеши, агрегаты, конфигурацию и выводы. В него не входят
|
Публичный отчет содержит хеши, агрегаты, конфигурацию и выводы. В него не входят
|
||||||
локальные пути, распознанный текст, временные интервалы, имена участников и
|
локальные пути, распознанный текст, временные интервалы, имена участников и
|
||||||
|
|||||||
@@ -0,0 +1,489 @@
|
|||||||
|
# Эксперимент Streaming Sortformer v2 Q8_0 на Ryzen CPU
|
||||||
|
|
||||||
|
**Дата:** 2026-09-01
|
||||||
|
|
||||||
|
**Статус:** готовый контракт следующего эксперимента, исполняемый в
|
||||||
|
[задаче #46](https://git.dementev.space/ddmitry/local-transcriber/issues/46).
|
||||||
|
Запуск модели и аудио начинается после подготовки свежей закрытой основы.
|
||||||
|
|
||||||
|
## Цель и исходы
|
||||||
|
|
||||||
|
Эксперимент отвечает на один вопрос: сокращает ли Streaming Sortformer v2
|
||||||
|
Q8_0 через NeMo-Speech.cpp время построения разметки говорящих на целевом Ryzen
|
||||||
|
минимум на 30% относительно свежего последовательного W0 при приемлемом
|
||||||
|
качестве и памяти.
|
||||||
|
|
||||||
|
Допустимы три исхода:
|
||||||
|
|
||||||
|
- `go`: медиана пяти финальных парных ускорений не ниже 30%, автоматические и
|
||||||
|
слуховые gates пройдены;
|
||||||
|
- `stop`: нарушен обязательный gate, первичное ускорение ниже 10%, финальная
|
||||||
|
медиана ниже 30% или слуховая проверка подтвердила регрессию;
|
||||||
|
- `needs-user`: отсутствует подтверждение свежей опоры или требуемое решение
|
||||||
|
по прослушиванию. Это состояние ожидания, его нельзя публиковать как результат
|
||||||
|
кандидата.
|
||||||
|
|
||||||
|
`go` разрешает подготовку отдельного production-решения. Экспериментальный
|
||||||
|
runtime остается изолированным, а production-профиль, CLI, config и модель по
|
||||||
|
умолчанию сохраняются.
|
||||||
|
|
||||||
|
## Сначала прочитать
|
||||||
|
|
||||||
|
1. Прочитать [карту архитектур](../research/2026-09-01-end-to-end-cpu-diarization-map.md),
|
||||||
|
особенно разделы "Граница выводов", A1 и формулу полной замены.
|
||||||
|
Критерий завершения: агент может объяснить, почему старые значения
|
||||||
|
`3 / 2 / 2`, unmatched words и purity не являются порогами нового опыта.
|
||||||
|
2. Прочитать [ADR-007](../adr/007-word-level-speaker-diarization.md) и
|
||||||
|
[старую спецификацию](2026-08-30-cpu-diarization-experiment.md). Критерий
|
||||||
|
завершения: сохранены каноническое сведение слов, правила 5%/10%/30% и
|
||||||
|
memory gate.
|
||||||
|
3. Прочитать `src/local_transcriber/benchmark_experiment.py` и
|
||||||
|
`tests/test_benchmark_experiment.py` перед реализацией. Критерий завершения:
|
||||||
|
новый стенд использует отдельный модуль и schema, не принимает старый
|
||||||
|
manifest или закрытые хранилища задач #41/#42.
|
||||||
|
|
||||||
|
## Границы
|
||||||
|
|
||||||
|
В scope входят свежая закрытая основа, точный W0/Sortformer A/B на Ryzen,
|
||||||
|
проверка трех полных записей после прохождения 30%-го порога на фрагментах и
|
||||||
|
слуховая приемка.
|
||||||
|
|
||||||
|
За пределами scope остаются:
|
||||||
|
|
||||||
|
- replay W/M/Q/E/C и восстановление старых patch/wheel;
|
||||||
|
- C1; ее повторное открытие требует отдельной свежей W0/C1 пары и нового
|
||||||
|
слухового материала;
|
||||||
|
- Intel и другие CPU;
|
||||||
|
- production integration, dependency lock, упаковка runtime и изменение ADR;
|
||||||
|
- параллельное планирование ASR/диаризации - это
|
||||||
|
[задача #22](https://git.dementev.space/ddmitry/local-transcriber/issues/22);
|
||||||
|
- автоматическое включение - это
|
||||||
|
[задача #23](https://git.dementev.space/ddmitry/local-transcriber/issues/23);
|
||||||
|
- joint ASR+diarization и shared-ASR-encoder. ASR создает только quality
|
||||||
|
sidecar до измерений.
|
||||||
|
|
||||||
|
## Закрепленные реализации
|
||||||
|
|
||||||
|
### W0
|
||||||
|
|
||||||
|
W0 использует действующий последовательный путь на восьми физических ядрах:
|
||||||
|
|
||||||
|
- `sherpa-onnx/core 1.13.6`;
|
||||||
|
- Pyannote Segmentation 3.0 FP32, SHA-256
|
||||||
|
`220ad67ca923bef2fa91f2390c786097bf305bceb5e261d4af67b38e938e1079`;
|
||||||
|
- WeSpeaker ResNet34 LM FP32, SHA-256
|
||||||
|
`e9848563da86f263117134dfd7ad63c92355b37de492b55e325400c9d9c39012`;
|
||||||
|
- `window_shift_ratio=0.1`;
|
||||||
|
- `FastClustering(auto, 0.89)`;
|
||||||
|
- `provider=cpu` для segmentation и embeddings;
|
||||||
|
- `debug=True` для обеих model configs: stage times читаются из штатного
|
||||||
|
debug-журнала и входят в измерительный рецепт;
|
||||||
|
- `min_duration_on=0.3`, `min_duration_off=0.5`;
|
||||||
|
- один worker, одна session, `intra_op_threads=8`, `inter_op_threads=1`, batch 1;
|
||||||
|
- штатный непатченный `diarizer.process(samples)`.
|
||||||
|
|
||||||
|
Старые experimental patch/wheel не загружаются и не восстанавливаются. До
|
||||||
|
первого запуска стенд проверяет версии, хеши и все effective values рецепта.
|
||||||
|
Критерий завершения: `--validate-only` показывает рецепт `W0-FRESH` и
|
||||||
|
останавливается при любом несовпадении.
|
||||||
|
|
||||||
|
Закрытые хранилища задач #41/#42 временно сохраняются до завершения и приемки
|
||||||
|
этого эксперимента как архив только для чтения. Стенд не получает их пути, не
|
||||||
|
читает старые manifest и результаты и отклоняет их ID при валидации. Архив не
|
||||||
|
является входом, базой сравнения или условием получения нового результата.
|
||||||
|
|
||||||
|
### Sortformer
|
||||||
|
|
||||||
|
Runtime:
|
||||||
|
|
||||||
|
- репозиторий [NVIDIA/NeMo-Speech.cpp](https://github.com/NVIDIA/NeMo-Speech.cpp);
|
||||||
|
- commit `4f9676226f667d14608487df744f375db87127f8`;
|
||||||
|
- license Apache-2.0;
|
||||||
|
- source build штатным CPU-only preset:
|
||||||
|
`git submodule update --init ggml`, затем `scripts/configure.sh cpu-diar` и
|
||||||
|
`cmake --build --preset cpu-diar`
|
||||||
|
([инструкция build](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/docs/build.md),
|
||||||
|
[точный preset](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/CMakePresets.json));
|
||||||
|
- preset использует Release/Ninja, включает только diarization и отключает
|
||||||
|
patched GGML; runtime запускается с `gpu=-1`, одним процессом и одним stream;
|
||||||
|
- CPU graph использует закрепленные в этом commit четыре внутренних потока;
|
||||||
|
runtime knob для их изменения отсутствует
|
||||||
|
([вызов scheduler](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/src/runtime/ggml/session.cpp#L903));
|
||||||
|
- submodule commits, compiler, CMake options и SHA-256 готового executable и
|
||||||
|
shared library сохраняются в новом manifest.
|
||||||
|
|
||||||
|
Модель:
|
||||||
|
|
||||||
|
- repo `nvidia/diar_streaming_sortformer_4spk-v2`;
|
||||||
|
- revision `5240a64075176943f677d30fa2171c780229f341`;
|
||||||
|
- файл `diar_streaming_sortformer_4spk-v2.q8_0.gguf`;
|
||||||
|
- размер `147075776` байт;
|
||||||
|
- SHA-256 `0679cfeb1ce356d0dea9470b31274f4bfc7eb927497d82005483770666da998a`;
|
||||||
|
- license CC BY 4.0.
|
||||||
|
|
||||||
|
Эти revision, размер и хеш также закреплены в
|
||||||
|
[официальном model index выбранного runtime](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/models/index.json#L75-L88).
|
||||||
|
После подготовки байтов стенд работает без сети.
|
||||||
|
|
||||||
|
Кандидат вызывается через
|
||||||
|
[standalone C ABI](https://github.com/NVIDIA/NeMo-Speech.cpp/blob/4f9676226f667d14608487df744f375db87127f8/include/nemo_speech/diar.h),
|
||||||
|
чтобы сохранить effective config и покадровую диагностику. Stateful streaming
|
||||||
|
получает точную геометрию NVIDIA в 80-мс кадрах:
|
||||||
|
|
||||||
|
| Поле | Значение |
|
||||||
|
|---|---:|
|
||||||
|
| `chunk_frames` | `340` |
|
||||||
|
| `right_context_frames` | `40` |
|
||||||
|
| `left_context_frames` | `0` |
|
||||||
|
| `fifo_frames` | `40` |
|
||||||
|
| `spkcache_frames` | `188` |
|
||||||
|
| `update_period_frames` | `300` |
|
||||||
|
|
||||||
|
Сумма chunk и right context дает input buffer latency 30,4 с. Опубликованный
|
||||||
|
RTF этой конфигурации измерен на RTX 6000 Ada и в CPU-гипотезу не переносится
|
||||||
|
([model card](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#setting-up-streaming-configuration)).
|
||||||
|
Full-attention `--offline` не используется.
|
||||||
|
|
||||||
|
Post-processing передается явно при каждом запросе:
|
||||||
|
|
||||||
|
| Поле | Значение |
|
||||||
|
|---|---:|
|
||||||
|
| `onset` | `0.641` |
|
||||||
|
| `offset` | `0.561` |
|
||||||
|
| `pad_onset_sec` | `0.229` |
|
||||||
|
| `pad_offset_sec` | `0.079` |
|
||||||
|
| `min_duration_sec` | `0.511` |
|
||||||
|
| `min_gap_sec` | `0.296` |
|
||||||
|
|
||||||
|
Это callhome-tuned конфигурация закрепленного runtime. Она остается quality
|
||||||
|
риском для русских рабочих встреч и не настраивается по трем контрольным
|
||||||
|
фрагментам. Любое изменение геометрии, post-processing, quantization или
|
||||||
|
runtime commit создает другую гипотезу и требует новой спецификации.
|
||||||
|
|
||||||
|
Критерий завершения подготовки кандидата: сборка выполняет синтетический
|
||||||
|
ABI-тест без аудио, `nemo_speech_diar_num_speakers()` возвращает 4,
|
||||||
|
`nemo_speech_diar_seconds_per_frame()` возвращает 0,08, а manifest содержит все
|
||||||
|
закрепленные значения и хеши. Синтетический тест не заменяет smoke-проверку с
|
||||||
|
аудио.
|
||||||
|
|
||||||
|
## Свежая закрытая основа
|
||||||
|
|
||||||
|
### Шаг 1. Выбрать источники и фрагменты
|
||||||
|
|
||||||
|
Владелец выбирает три сохраненные исходные записи и по одной 300-секундной
|
||||||
|
области в каждой. Набор должен включать русскую рабочую речь, смену говорящего,
|
||||||
|
короткий ответ и перекрытие хотя бы где-то в совокупности. В каждой области и
|
||||||
|
каждой полной записи должно быть от двух до четырех слышимых голосов. Запись с
|
||||||
|
пятью голосами закрывает кандидат до измерения: модель выдает не более четырех
|
||||||
|
выходных голосовых кластеров
|
||||||
|
([technical limitations](https://huggingface.co/nvidia/diar_streaming_sortformer_4spk-v2#technical-limitations)).
|
||||||
|
|
||||||
|
В закрытом manifest сохраняются source hash, точные границы и recipe
|
||||||
|
mono/16 kHz float32. Публичные документы получают только число фрагментов,
|
||||||
|
длительность и агрегаты.
|
||||||
|
|
||||||
|
Критерий завершения: три source hash уникальны, три WAV имеют ровно 300 секунд
|
||||||
|
после единственного закрепленного преобразования, а ни один путь, ID или
|
||||||
|
интервал не попадает в stdout режима `--validate-only`.
|
||||||
|
|
||||||
|
### Шаг 2. Подготовить ASR-sidecar и доступную опорную разметку
|
||||||
|
|
||||||
|
Действующий ASR выполняется один раз для каждой полной записи до измерений.
|
||||||
|
Sidecar хранит канонические слова с временной привязкой и нормализованный текст;
|
||||||
|
fragment-sidecar получается детерминированным срезом той же версии. Затем
|
||||||
|
человек прослушивает каждый фрагмент целиком и фиксирует ожидаемое число
|
||||||
|
голосовых кластеров для фрагментов и полных записей. Опорная разметка фрагмента
|
||||||
|
необязательна: `reference_path` и `reference_sha256` либо заполнены вместе, либо
|
||||||
|
оба равны `null`. При наличии разметки стенд считает mapped purity и выбирает
|
||||||
|
места прослушивания; сама разметка остается приближенной и не объявляется
|
||||||
|
истиной границ.
|
||||||
|
|
||||||
|
Критерий завершения: для каждого фрагмента и каждой полной записи есть
|
||||||
|
подтвержденное человеком `expected_cluster_count` в диапазоне `2..4`, один
|
||||||
|
неизменяемый sidecar и SHA-256. Отсутствие опорной разметки не блокирует
|
||||||
|
измерение и не ослабляет остальные gates. Для канонического Ryzen-прогона
|
||||||
|
используются подтвержденные владельцем числа `3 / 2 / 2`; их привязывают к
|
||||||
|
источникам по хешам, а не по порядку нейтральных имен. Повторное прослушивание
|
||||||
|
для подсчета голосов не требуется.
|
||||||
|
|
||||||
|
### Шаг 3. Пройти пользовательский gate
|
||||||
|
|
||||||
|
До первого модельного запуска владелец подтверждает:
|
||||||
|
|
||||||
|
- право использовать выбранные записи в закрытом локальном опыте;
|
||||||
|
- пригодность трех областей и полных записей, а также
|
||||||
|
`expected_cluster_count` каждого фрагмента и каждой полной записи;
|
||||||
|
- доступность исходных полных записей для этапа после 30%-го порога на
|
||||||
|
фрагментах;
|
||||||
|
- готовность выполнить безусловный финальный слуховой gate, если медиана
|
||||||
|
достигнет 30%. Diagnostics только добавляют обязательные места прослушивания.
|
||||||
|
|
||||||
|
Критерий завершения: в закрытом manifest есть timestamped decision `approved`.
|
||||||
|
Без него исход `needs-user`; стенд не загружает модели.
|
||||||
|
|
||||||
|
В каноническом Ryzen-прогоне решением `approved` служит датированный handoff
|
||||||
|
владельца в комментарии к задаче #46. Нового подтверждения до достижения
|
||||||
|
30%-го порога не требуется.
|
||||||
|
|
||||||
|
## Измеряемая величина и A/B
|
||||||
|
|
||||||
|
Время W0 - wall вокруг одного `diarizer.process(samples)`. Время кандидата -
|
||||||
|
wall вокруг `stream_open -> push all prepared samples -> finish -> segment
|
||||||
|
post-processing`. Для обеих ветвей модель уже загружена, WAV уже декодирован в
|
||||||
|
один и тот же mono/16 kHz float32 buffer. ASR, скачивание, build, model load,
|
||||||
|
декодирование, чтение sidecar, запись artifacts и расчет метрик находятся вне
|
||||||
|
таймера.
|
||||||
|
|
||||||
|
Полная замена оценивается только измерением:
|
||||||
|
|
||||||
|
```text
|
||||||
|
B = measured W0 wall
|
||||||
|
A = measured Sortformer wall
|
||||||
|
speedup_percent = 100 * (B - A) / B
|
||||||
|
```
|
||||||
|
|
||||||
|
Восьмиклеточное историческое Ryzen-разложение не подставляется вместо свежего
|
||||||
|
`B`. CPU prediction для `A` отсутствует.
|
||||||
|
|
||||||
|
Каждая ячейка запускается новым дочерним процессом на одной машине, от сети, в
|
||||||
|
стабильном power mode. Process affinity разрешает те же восемь физических ядер
|
||||||
|
обеим ветвям. W0 получает `intra_op_threads=8`; закрепленный candidate runtime
|
||||||
|
исполняет CPU graph четырьмя внутренними потоками. Это часть сравниваемого
|
||||||
|
runtime recipe. Изменение hardcoded числа потоков образует новую гипотезу.
|
||||||
|
Фиксируются logical/physical cores, CPUID/ISA, RAM, ОС, compiler/runtime
|
||||||
|
versions, affinity, effective threads, power mode, governor, turbo, throttling
|
||||||
|
и swap. Прогон со сменой режима или throttling не учитывается и повторяется
|
||||||
|
один раз после стабилизации.
|
||||||
|
|
||||||
|
### Шаг 4. Принять свежий W0
|
||||||
|
|
||||||
|
Один `W0-FRESH` обрабатывает три фрагмента последовательно. Для каждого
|
||||||
|
сохраняются raw wall/CPU/RSS и stage times; публично выводится сумма. W0 должен
|
||||||
|
дать ровно подтвержденные `expected_cluster_count`, сохранить sidecar-текст и
|
||||||
|
пройти memory gate.
|
||||||
|
|
||||||
|
Критерий завершения: W0 прошел все обязательные gates и его закрытый result
|
||||||
|
имеет SHA-256. При провале итог `stop`: база сравнения непригодна.
|
||||||
|
|
||||||
|
### Шаг 5. Выполнить первичный A/B
|
||||||
|
|
||||||
|
Сразу после принятого W0 запускается одна ячейка кандидата на тех же buffers и в
|
||||||
|
том же порядке фрагментов. Primary order закреплен как `W0 -> candidate`; пять
|
||||||
|
дорогих циклов ниже устраняют постоянный порядок чередованием. Один primary
|
||||||
|
cycle равен сумме трех wall times каждой ветви.
|
||||||
|
|
||||||
|
Критерий завершения: обе ячейки имеют raw result, одинаковый список input
|
||||||
|
hashes и один pair ID; рассчитаны ускорение, CPU и RSS delta.
|
||||||
|
|
||||||
|
Решение после primary:
|
||||||
|
|
||||||
|
- `abs(speedup) <= 5%` - результат фиксируется как равенство по скорости;
|
||||||
|
- `speedup < 10%` - `stop`: причина `equal-speed` для равенства по скорости,
|
||||||
|
иначе `below-continuation`;
|
||||||
|
- `speedup >= 10%` при всех gates - перейти к пяти финальным циклам;
|
||||||
|
- любой обязательный quality/memory/Sortformer gate - немедленный `stop`.
|
||||||
|
|
||||||
|
### Шаг 6. Выполнить пять финальных циклов
|
||||||
|
|
||||||
|
Каждый цикл содержит свежую ячейку W0 и свежую ячейку кандидата на всех трех
|
||||||
|
фрагментах. Primary pair в пять финальных циклов не входит. Порядок закреплен
|
||||||
|
заранее и чередуется так:
|
||||||
|
|
||||||
|
1. final 1: `candidate -> W0`;
|
||||||
|
2. final 2: `W0 -> candidate`;
|
||||||
|
3. final 3: `candidate -> W0`;
|
||||||
|
4. final 4: `W0 -> candidate`;
|
||||||
|
5. final 5: `candidate -> W0`.
|
||||||
|
|
||||||
|
Вместе с primary `W0 -> candidate` это исключает выбор порядка по уже видимому
|
||||||
|
результату. Дополнительные варианты, модели и настройки не добавляются.
|
||||||
|
|
||||||
|
Критерий завершения: получены пять парных ускорений, их медиана и MAD; все
|
||||||
|
десять ячеек прошли gates. Медиана не ниже 30% открывает проверку полных записей.
|
||||||
|
Медиана ниже 30% дает `stop`. Дополнительные повторы не назначаются.
|
||||||
|
|
||||||
|
### Шаг 7. Проверить полные записи и пройти слуховой gate
|
||||||
|
|
||||||
|
После медианы не ниже 30% W0 и candidate однократно обрабатывают три полные
|
||||||
|
исходные записи. Скорость полных прогонов остается диагностикой и не заменяет
|
||||||
|
пятипарную медиану.
|
||||||
|
|
||||||
|
Владелец получает blinded A/B материал по пяти категориям:
|
||||||
|
|
||||||
|
- короткие ответы и перебивки;
|
||||||
|
- смены говорящего;
|
||||||
|
- перекрывающаяся речь;
|
||||||
|
- устойчивость соответствия голоса кластеру;
|
||||||
|
- слова без говорящего и малые остаточные кластеры.
|
||||||
|
|
||||||
|
Материал включает все места, отмеченные сравнительными diagnostics, и
|
||||||
|
фиксированную случайную выборку совпадающих мест. Порядок A/B и имя кандидата
|
||||||
|
раскрываются после вердикта. По каждой категории владелец записывает `pass` или
|
||||||
|
`fail` и короткую причину в закрытом хранилище; публично остается только
|
||||||
|
вердикт.
|
||||||
|
|
||||||
|
Критерий завершения: три пары на полных записях прошли автоматические gates,
|
||||||
|
все пять слуховых категорий имеют решение. Любой подтвержденный `fail` дает
|
||||||
|
`stop`; полный `pass` завершает эксперимент как `go`.
|
||||||
|
|
||||||
|
## Gates и диагностика
|
||||||
|
|
||||||
|
### Обязательное качество и корректность
|
||||||
|
|
||||||
|
Каждая ячейка W0 и кандидата обязана выполнить все условия:
|
||||||
|
|
||||||
|
- число голосовых кластеров каждого обрабатываемого контрольного объекта -
|
||||||
|
фрагмента или полной записи - точно равно свежему, подтвержденному человеком
|
||||||
|
`expected_cluster_count`;
|
||||||
|
- нормализованный текст и порядок слов побайтно совпадают с одним sidecar;
|
||||||
|
- нет потерянных, продублированных или переставленных слов;
|
||||||
|
- интервалы конечны, имеют положительную длительность, лежат в пределах audio
|
||||||
|
duration с учетом явно заданного padding и отсортированы по началу;
|
||||||
|
- каноническая нумерация меток детерминирована на повторном расчете метрик;
|
||||||
|
- все inputs, параметры и output artifacts имеют SHA-256.
|
||||||
|
|
||||||
|
Purity для фрагментов с опорной разметкой и число слов без говорящего
|
||||||
|
сравниваются с новым `W0-FRESH`. Ухудшение не дает автоматического `fail`, но
|
||||||
|
обязательно добавляет все затронутые места в слуховой gate. Старые абсолютные
|
||||||
|
значения не участвуют.
|
||||||
|
|
||||||
|
Открытый диагностикой слуховой gate не прерывает шаги 5-6. Стенд накапливает
|
||||||
|
затронутые места и добавляет их в материал шага 7. Состояние `needs-user` из-за
|
||||||
|
прослушивания возможно только после достижения 30%-го порога и подготовки
|
||||||
|
полного blinded-материала.
|
||||||
|
|
||||||
|
### Sortformer-specific gate
|
||||||
|
|
||||||
|
Для каждой ячейки кандидата сохраняются и проверяются:
|
||||||
|
|
||||||
|
- `num_speakers=4`, `seconds_per_frame=0.08` и точная geometry/post-processing
|
||||||
|
из этой спецификации;
|
||||||
|
- `frame_count`, `frame_probs_start` и размер доступной матрицы `T x 4`;
|
||||||
|
- каждое сохраненное probability конечно и принадлежит `[0, 1]`;
|
||||||
|
- каждая итоговая speaker label принадлежит `1..4`;
|
||||||
|
- число и суммарная длительность интервалов по каждому каналу;
|
||||||
|
- число коротких интервалов, overlap ratio, unmatched words, малые/остаточные
|
||||||
|
кластеры и mapped purity для фрагментов с опорной разметкой;
|
||||||
|
- wall отдельно для model inference и segment post-processing.
|
||||||
|
|
||||||
|
Любой неверный shape/value/label или эффективная конфигурация, отличная от
|
||||||
|
закрепленной, дает `stop`. Появление лишнего/пропажа ожидаемого кластера дает
|
||||||
|
`stop`. Изменение channel stability, short-turn, overlap, unmatched-word или
|
||||||
|
purity diagnostics открывает слуховую проверку; числовой порог для этих proxy
|
||||||
|
не вводится.
|
||||||
|
|
||||||
|
Жесткий предел четырех выходных голосовых кластеров, риск записей с пятью и
|
||||||
|
более слышимыми голосами и риск non-English/out-of-domain сохраняются в
|
||||||
|
публичном решении даже после `go`; опыт не доказывает применимость к другим
|
||||||
|
встречам.
|
||||||
|
|
||||||
|
### Память
|
||||||
|
|
||||||
|
Peak RSS измеряется process-wide для каждой ячейки. Также сохраняются swap до и
|
||||||
|
после, page faults и RSS после каждого фрагмента.
|
||||||
|
|
||||||
|
Memory gate дает `stop` при OOM, активной подкачке во время ячейки, RSS без плато
|
||||||
|
между повторами или линейном росте RSS с числом обработанных фрагментов. Peak
|
||||||
|
RSS выше 2 ГиБ на машине с 16 ГиБ требует отдельного разбора владельца и
|
||||||
|
состояния `needs-user`; одно превышение не является автоматическим `fail`.
|
||||||
|
|
||||||
|
## Артефакты и приватность
|
||||||
|
|
||||||
|
Checkout и дерево сборки NeMo-Speech.cpp, скачанные веса и новое закрытое
|
||||||
|
хранилище размещаются вне рабочей копии local-transcriber. `.scratch` внутри
|
||||||
|
репозитория целиком игнорируется, но остается локальной частью конкретного
|
||||||
|
checkout и не подходит для закрытого переносимого хранилища. Ни один
|
||||||
|
runtime/model/build artifact или закрытый вход не попадает в Git.
|
||||||
|
|
||||||
|
Новое закрытое хранилище содержит:
|
||||||
|
|
||||||
|
- versioned manifest со schema, clean local-transcriber source commit,
|
||||||
|
source/model/runtime/build hashes и расписанием;
|
||||||
|
- исходные ссылки, подготовленные WAV и recipe преобразования;
|
||||||
|
- ASR-sidecar и имеющуюся опорную разметку;
|
||||||
|
- raw per-fragment results, intervals, word assignments и probability
|
||||||
|
diagnostics;
|
||||||
|
- machine/power/runtime guards и stderr/stdout logs;
|
||||||
|
- материал и решения слуховой проверки;
|
||||||
|
- байты runtime/model либо проверяемый download recipe с revision, size и hash.
|
||||||
|
|
||||||
|
Хранилище не ссылается на закрытые хранилища задач #41/#42 и остается
|
||||||
|
достаточным для разбора собственного результата. После приемки отчета задачи
|
||||||
|
#46 старые архивы можно удалить; их удаление не блокирует ни один шаг и не
|
||||||
|
лишает новый результат доказательной основы.
|
||||||
|
|
||||||
|
Публичный отчет содержит `clean local-transcriber source commit`, точные
|
||||||
|
рецепты, хеши, агрегаты, вердикты gates и итоговое решение. В Git, комментарии
|
||||||
|
Gitea, задания на ревью и вывод `--validate-only` не попадают пути,
|
||||||
|
`source/recording IDs`, текст, временные интервалы, сырые строки, содержимое
|
||||||
|
manifest, логи, имена участников или аудио.
|
||||||
|
|
||||||
|
При нарушении приватности стенд останавливается до публикации. Уже
|
||||||
|
сформированный публичный артефакт удаляется из рабочей ветки и создается заново
|
||||||
|
из безопасных агрегатов.
|
||||||
|
|
||||||
|
## Реализация стенда и тесты
|
||||||
|
|
||||||
|
Новый стенд реализуется отдельным модулем
|
||||||
|
`src/local_transcriber/streaming_sortformer_experiment.py`; существующий
|
||||||
|
`benchmark_experiment.py` остается источником общих проверенных механизмов.
|
||||||
|
Стенд получает отдельную schema и только две recipe: `W0-FRESH` и
|
||||||
|
`SORTFORMER-V2-Q8`. Manifest validation выполняется до загрузки моделей.
|
||||||
|
`--validate-only` проверяет:
|
||||||
|
|
||||||
|
- три уникальных source hashes, 300-секундные фрагменты и fresh-basis marker;
|
||||||
|
- human approval и `expected_cluster_count` каждого фрагмента и каждой полной
|
||||||
|
записи в диапазоне `2..4`;
|
||||||
|
- W0 model/runtime hashes и effective values: CPU provider, `debug=True`,
|
||||||
|
`min_duration_on=0.3`, `min_duration_off=0.5`, threads и clustering;
|
||||||
|
- clean local-transcriber worktree и source commit из manifest;
|
||||||
|
- Sortformer revision, size, SHA-256, runtime commit, submodules, build hashes,
|
||||||
|
CPU backend, geometry и post-processing;
|
||||||
|
- одинаковые input/sidecar hashes обеих ветвей;
|
||||||
|
- заранее созданные primary/final schedules;
|
||||||
|
- отсутствие корней старых хранилищ и legacy ID ячеек.
|
||||||
|
|
||||||
|
Минимальные детерминированные тесты выполняются без модели и аудио:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uv run pytest -q \
|
||||||
|
tests/test_streaming_sortformer_experiment.py \
|
||||||
|
tests/test_benchmark_experiment.py \
|
||||||
|
tests/test_speaker_diarizer.py \
|
||||||
|
tests/test_diarization.py
|
||||||
|
```
|
||||||
|
|
||||||
|
Новый модуль тестов покрывает отклонение `schema`, несовпадение пинов и хешей,
|
||||||
|
требование свежей опоры, обезличенный вывод `--validate-only`, правило
|
||||||
|
`expected_cluster_count`, точное расписание A/B, границы 5%/10%/30%, gates
|
||||||
|
качества, памяти и Sortformer, переход к прослушиванию, безопасную сериализацию
|
||||||
|
и остановку при первом отказе. Стенд C ABI имеет отдельный синтетический тест
|
||||||
|
размеров структур, выбора CPU и эффективной конфигурации; модель в модульных
|
||||||
|
тестах не загружается.
|
||||||
|
|
||||||
|
Критерий завершения реализации стенда: все детерминированные тесты проходят,
|
||||||
|
`--validate-only` проходит на закрытом manifest и публичный вывод проходит
|
||||||
|
privacy scan. Реализация стенда фиксируется чистым коммитом исходников,
|
||||||
|
совпадающим с manifest. Только после этого разрешен первый запуск модели W0.
|
||||||
|
|
||||||
|
## Критерии завершения эксперимента
|
||||||
|
|
||||||
|
- [ ] Свежая опора собрана в новом закрытом хранилище; подтвержденные входы,
|
||||||
|
доступная разметка и числа голосов связаны по хешам, а старые manifest,
|
||||||
|
расписание и результаты не наследуются.
|
||||||
|
- [ ] Runtime, модель, сборка и оба рецепта закреплены и проверены до моделей.
|
||||||
|
- [ ] Clean local-transcriber source commit сохранен в закрытом хранилище и
|
||||||
|
публичном отчете, а `--validate-only` проверяет его до моделей.
|
||||||
|
- [ ] Свежий W0 принят либо итог `stop` объясняет провал базы сравнения.
|
||||||
|
- [ ] Первичный A/B завершен; решение 10% применено без дополнительных ветвей.
|
||||||
|
- [ ] При продолжении завершены ровно пять финальных циклов, медиана и MAD.
|
||||||
|
- [ ] Каждая выполненная ячейка имеет вердикты качества, текста, памяти и
|
||||||
|
Sortformer.
|
||||||
|
- [ ] При медиане 30% выполнены три пары на полных записях и пять слуховых
|
||||||
|
решений.
|
||||||
|
- [ ] Все остановленные шаги имеют первую точную причину и хеш результата.
|
||||||
|
- [ ] Закрытое хранилище самодостаточно; публичный отчет содержит только безопасные
|
||||||
|
агрегаты и SHA-256.
|
||||||
|
- [ ] Итог равен `go` или `stop`; `needs-user` остается открытым до решения.
|
||||||
|
- [ ] Ни один результат автоматически не меняет production-зависимости,
|
||||||
|
профиль, CLI, config или модель по умолчанию.
|
||||||
@@ -0,0 +1,167 @@
|
|||||||
|
# Владение выполнением транскрипции
|
||||||
|
|
||||||
|
**Статус:** реализовано. Правила выбора исполнения и optional CUDA — в #2,
|
||||||
|
владение выполнением (`Transcriber`), бюджет потоков ONNX и диагностика —
|
||||||
|
в #56. Windows GPU-прогон без Toolkit остаётся невыполненным (см. ADR-001).
|
||||||
|
|
||||||
|
## Зачем
|
||||||
|
|
||||||
|
Основное направление развития — поддерживаемые модели и движки распознавания,
|
||||||
|
прежде всего ONNX. В перспективе нужны аппаратные варианты исполнения на Mac
|
||||||
|
и через Windows ML, но их внедрение не входит в этот рефакторинг.
|
||||||
|
|
||||||
|
Сейчас CLI хранит модель, backend, путь к модели и фактическое устройство,
|
||||||
|
передаёт их в `_transcribe_file` и обновляет после fallback. Для ONNX часть
|
||||||
|
согласованного состояния находится в adapter, а загруженная модель передаётся
|
||||||
|
отдельно. Это увеличивает interface: caller должен знать порядок вызовов
|
||||||
|
и поддерживать согласованность значений.
|
||||||
|
|
||||||
|
`device` одновременно обозначает движок и аппаратное исполнение. До #2 значение
|
||||||
|
`onnx` выбирало adapter, но не закрепляло CPU: `onnx-asr` по умолчанию использует
|
||||||
|
доступные execution providers, хотя CLI писал `ONNX (CPU)`. В #2 для ASR и VAD
|
||||||
|
закреплён CPU provider. Параметр `cpu_threads` всё ещё принимается ONNX adapter,
|
||||||
|
но не используется при загрузке ASR и VAD.
|
||||||
|
|
||||||
|
## Согласованные ограничения
|
||||||
|
|
||||||
|
- Сохраняются ONNX-ASR, OpenVINO и FasterWhisper. Удаление CUDA-библиотек из
|
||||||
|
обязательной установки не означает удаление FasterWhisper или его CPU-пути.
|
||||||
|
- Приоритет — подключение моделей и вариантов исполнения. Промежуточное
|
||||||
|
сохранение и возобновление обработки совещаний не нужны для этой работы.
|
||||||
|
- Автоматически выбираются только проверенные сочетания модели и исполнения.
|
||||||
|
Новое аппаратное исполнение сначала подключается явно и проверяется отдельно.
|
||||||
|
- CUDA-зависимости устанавливаются по желанию пользователя. Способ установки
|
||||||
|
и включения должен быть описан в документации.
|
||||||
|
- Наличие драйвера NVIDIA не доказывает совместимость железа с runtime.
|
||||||
|
Ноутбук владельца с установленным драйвером и несовместимым старым GPU —
|
||||||
|
обязательный сценарий для проверки нового поведения.
|
||||||
|
- Диаризация остаётся необязательным последующим проходом. Сбой «два
|
||||||
|
собеседника на чёткой записи, найден один говорящий» требует отдельного
|
||||||
|
исследования качества; этот рефакторинг его не исправляет.
|
||||||
|
|
||||||
|
## Форма module
|
||||||
|
|
||||||
|
External seam проходит между caller и выполнением распознавания. Caller
|
||||||
|
создаёт один module для согласованных настроек запуска и последовательно
|
||||||
|
передаёт ему файлы. Module владеет загруженной моделью, связанным adapter,
|
||||||
|
фактическими настройками и допустимыми переходами исполнения. Caller получает
|
||||||
|
результат распознавания и сведения о выполнении, а не внутреннее состояние,
|
||||||
|
которое нужно передать обратно при следующем файле.
|
||||||
|
|
||||||
|
Module создаётся после prescan, когда есть работа. Загрузка и проверка
|
||||||
|
возможностей завершаются до распознавания первого файла: это сохраняет
|
||||||
|
проверку пословного контракта перед включённой диаризацией. Один и тот же
|
||||||
|
interface используется для одного файла и для батча. События прогресса остаются
|
||||||
|
доступны CLI. Публичная функция `transcribe` сохраняется как путь одного файла
|
||||||
|
через тот же module; конкретные имена новых типов здесь не закрепляются.
|
||||||
|
|
||||||
|
Внутри различаются поддерживаемая модель, движок распознавания и способ
|
||||||
|
исполнения. Существующие значения CLI и TOML преобразуются в этот выбор при
|
||||||
|
подготовке запуска. Backend остаётся internal seam с реальными adapters;
|
||||||
|
каталог ONNX, VAD, квантизация и перевод результата библиотеки в сегменты
|
||||||
|
распознавания и слова с временной привязкой остаются в ONNX adapter.
|
||||||
|
Отдельная иерархия adapters для каждого execution provider пока не нужна.
|
||||||
|
|
||||||
|
CLI сохраняет выбор файлов, prescan, пользовательский вывод и итоговый статус.
|
||||||
|
Форматирование, запись Markdown и правила диаризации не поглощаются новым
|
||||||
|
module. Это ограничивает первый шаг владением ASR и его настройками.
|
||||||
|
|
||||||
|
Depth оценивается по обязанностям caller: ему больше не нужно согласовывать
|
||||||
|
model/backend/path/device. Locality — изменения загрузки и исполнения
|
||||||
|
сосредоточены в module и соответствующем adapter. Leverage — один interface
|
||||||
|
покрывает одиночный запуск, батч и их тесты.
|
||||||
|
|
||||||
|
## Выбор исполнения и ошибки
|
||||||
|
|
||||||
|
Ручное включение CUDA состоит из двух явных действий: установки зависимостей
|
||||||
|
и выбора CUDA через CLI либо TOML. Extra `cuda` поддерживает Linux/WSL x86_64
|
||||||
|
и Windows x64 без обязательного системного Toolkit; совместимый драйвер
|
||||||
|
устанавливается отдельно. CUDA не участвует
|
||||||
|
в `auto`, даже если найден `nvidia-smi` или установлены её библиотеки.
|
||||||
|
Так установка драйвера не меняет движок и модель по умолчанию.
|
||||||
|
|
||||||
|
Начальный автоматический путь — ONNX с CPU и существующей моделью по умолчанию.
|
||||||
|
Для ONNX список providers задаётся явно; наличие CoreML в macOS wheel не
|
||||||
|
включает его автоматически. Это делает политику проекта определённой, но
|
||||||
|
не заменяет проверку работы на настоящем Mac.
|
||||||
|
|
||||||
|
Явный аппаратный выбор не подменяется молча другим исполнением. При отсутствии
|
||||||
|
CUDA-библиотек выводится инструкция подключения; при несовместимости железа
|
||||||
|
объясняется отказ выбранного пути. Установка библиотек не предлагается как
|
||||||
|
универсальное исправление аппаратной несовместимости. Остальные существующие
|
||||||
|
правила ошибок и разрешённых fallback сохраняются внутри module; состояние
|
||||||
|
после перехода остаётся согласованным для следующего файла.
|
||||||
|
|
||||||
|
Сведения о выполнении различают запрошенное и выбранное исполнение, модель,
|
||||||
|
квантизацию и настройки потоков. Они не раскрывают model handle. Для ONNX
|
||||||
|
наличие или регистрация provider не выдаётся за доказательство выполнения
|
||||||
|
всего графа на GPU/NPU. Отладочный вывод должен помогать выяснить конфигурацию
|
||||||
|
на чужой машине, включая версии runtime и providers, без доступа к записи.
|
||||||
|
|
||||||
|
## Проверка результата
|
||||||
|
|
||||||
|
Основные сценарии проверяются через external interface с подменой внешних
|
||||||
|
движков, при работающей оркестрации проекта:
|
||||||
|
|
||||||
|
- Пустой prescan не загружает модели; два файла переиспользуют одну модель.
|
||||||
|
- Добавление каталожной ONNX-модели не требует изменений в CLI.
|
||||||
|
- Выбранная квантизация и бюджет потоков действительно передаются ASR и VAD;
|
||||||
|
нулевой бюджет сохраняет настройки потоков библиотек.
|
||||||
|
- Наличие `nvidia-smi` при обычной установке не запускает CUDA и не ведёт
|
||||||
|
через ошибку GPU к FasterWhisper CPU.
|
||||||
|
- Явная CUDA с отсутствующими библиотеками и с несовместимым GPU даёт разные
|
||||||
|
содержательные ошибки. Автоматическая смена модели не маскирует отказ.
|
||||||
|
- Случайно доступный непроверенный ONNX provider не меняет автоматический путь.
|
||||||
|
- Разрешённый fallback не требует переноса состояния в CLI; обычная ошибка
|
||||||
|
файла не повреждает состояние для последующих файлов батча.
|
||||||
|
- Сохраняются явные CPU/OpenVINO-пути, порядок слов, пословный контракт,
|
||||||
|
прогресс, прерывание и существующее поведение необязательной диаризации.
|
||||||
|
|
||||||
|
Тесты ручного переноса внутренних полей заменяются проверками этих сценариев.
|
||||||
|
Тесты преобразования результатов adapters сохраняются на их internal seams.
|
||||||
|
Mock-тесты не подтверждают ускорение или совместимость на Mac/Windows ML;
|
||||||
|
для признания сочетания проверенным нужен реальный прогон с оценкой результата.
|
||||||
|
|
||||||
|
## Документация и прежние решения
|
||||||
|
|
||||||
|
README должен различать обычную установку и подключение CUDA: дополнительные
|
||||||
|
зависимости через один extra на Linux/WSL x86_64 и Windows x64, внешние
|
||||||
|
требования драйвера и Visual C++ Runtime, явный запуск, настройку TOML
|
||||||
|
и диагностику отсутствующих библиотек или несовместимого железа. Команды
|
||||||
|
установки из клона и через `uv tool` проверяются при реализации. CUDA extra
|
||||||
|
оформляется отдельным изменением, чтобы поставку можно было проверить
|
||||||
|
независимо от рефакторинга выполнения.
|
||||||
|
|
||||||
|
При реализации нужно отразить пересмотр прежних решений:
|
||||||
|
|
||||||
|
- [ADR-001](../adr/001-cuda-bootstrap.md): обязательная cuBLAS ради готовности
|
||||||
|
CUDA сразу после установки сменяется подключением по желанию пользователя.
|
||||||
|
- [ADR-002](../adr/002-batch-and-config.md): состояние модели больше не
|
||||||
|
возвращается caller для переноса между файлами. Prescan-first сохраняется.
|
||||||
|
- [ADR-003](../adr/003-pluggable-backends.md): движок и аппаратное исполнение
|
||||||
|
различаются внутри module; device больше не считается полным описанием
|
||||||
|
исполнения. Сохраняются adapters, ленивые imports и единый владелец загрузки.
|
||||||
|
- [ADR-006](../adr/006-onnx-asr-backend.md): автоматический выбор CUDA по
|
||||||
|
`nvidia-smi` заменяется явным включением; модель ONNX по умолчанию сохраняется.
|
||||||
|
- [ADR-007](../adr/007-word-level-speaker-diarization.md): правила пословного
|
||||||
|
результата и диаризации этим решением не пересматриваются.
|
||||||
|
|
||||||
|
Основания для будущих аппаратных вариантов уже собраны в
|
||||||
|
[исследовании runtime](../research/2026-08-12-onnx-runtime-openvino-lifecycle.md).
|
||||||
|
Актуальные описания механизмов: [CoreML EP](https://onnxruntime.ai/docs/execution-providers/CoreML-ExecutionProvider.html)
|
||||||
|
и [Windows ML](https://learn.microsoft.com/en-us/windows/ai/new-windows-ml/overview).
|
||||||
|
Их наличие не является подтверждением выбранных моделей на этих платформах.
|
||||||
|
|
||||||
|
## Объём задач
|
||||||
|
|
||||||
|
Для основного рефакторинга достаточно одной задачи с несколькими коммитами:
|
||||||
|
владение моделью, перевод callers, настройки ONNX и проверка поведения входят
|
||||||
|
в один принимаемый результат. Отдельных задач на каждый файл или коммит нет.
|
||||||
|
|
||||||
|
Существующая [задача #2](https://git.dementev.space/ddmitry/local-transcriber/issues/2)
|
||||||
|
получает принятое решение об optional CUDA вместо дальнейшего исследования:
|
||||||
|
зависимости, ручное включение, автоматический ONNX CPU, диагностика CUDA
|
||||||
|
и документация. Она выполняется первой и даёт основному рефакторингу
|
||||||
|
определённые правила выбора. Фиксация CPU providers ASR/VAD относится к #2;
|
||||||
|
бюджет потоков, владение состоянием и общая диагностика исполнения — к основной
|
||||||
|
задаче. Работа над CoreML, Windows ML и качеством диаризации сюда не входит.
|
||||||
+19
-4
@@ -8,21 +8,31 @@ dependencies = [
|
|||||||
"typer>=0.24.1,<1",
|
"typer>=0.24.1,<1",
|
||||||
"rich>=14.3.3,<15",
|
"rich>=14.3.3,<15",
|
||||||
"faster-whisper>=1.2.1,<2",
|
"faster-whisper>=1.2.1,<2",
|
||||||
|
# CUDA-зависимости Windows проверены для этой сборки; см. ADR-001.
|
||||||
|
"ctranslate2==4.8.1",
|
||||||
"httpx>=0.28,<1",
|
"httpx>=0.28,<1",
|
||||||
"socksio>=1.0.0,<2",
|
"socksio>=1.0.0,<2",
|
||||||
# При обновлении сверить блок tool.uv.dependency-metadata ниже.
|
# При обновлении сверить блок tool.uv.dependency-metadata ниже.
|
||||||
"sherpa-onnx==1.13.5",
|
"sherpa-onnx==1.13.6",
|
||||||
"nvidia-cublas-cu12>=12.4,<13; sys_platform == 'linux' and platform_machine == 'x86_64'",
|
|
||||||
"openvino-genai>=2026.3.0.0,<2026.4; sys_platform != 'darwin' and (platform_machine == 'x86_64' or platform_machine == 'AMD64')",
|
"openvino-genai>=2026.3.0.0,<2026.4; sys_platform != 'darwin' and (platform_machine == 'x86_64' or platform_machine == 'AMD64')",
|
||||||
"onnx-asr[cpu,hub]>=0.12,<0.13",
|
"onnx-asr[cpu,hub]>=0.12,<0.13",
|
||||||
"onnxruntime>=1.28,<2",
|
"onnxruntime>=1.28,<2",
|
||||||
]
|
]
|
||||||
|
|
||||||
|
[project.optional-dependencies]
|
||||||
|
cuda = [
|
||||||
|
# В 12.9.2 добавилась NVRTC: обновлять после проверки DLL и bootstrap.
|
||||||
|
"nvidia-cublas-cu12==12.9.1.4; (sys_platform == 'linux' and platform_machine == 'x86_64') or (sys_platform == 'win32' and (platform_machine == 'AMD64' or platform_machine == 'x86_64'))",
|
||||||
|
]
|
||||||
|
|
||||||
[project.scripts]
|
[project.scripts]
|
||||||
transcribe = "local_transcriber.cli:app"
|
transcribe = "local_transcriber.cli:app"
|
||||||
|
|
||||||
[dependency-groups]
|
[dependency-groups]
|
||||||
dev = [
|
dev = [
|
||||||
|
"kaldi-native-fbank>=1.22,<2",
|
||||||
|
"numpy==2.4.3",
|
||||||
|
"onnx>=1.18,<2",
|
||||||
"psutil>=7,<8",
|
"psutil>=7,<8",
|
||||||
"pytest",
|
"pytest",
|
||||||
]
|
]
|
||||||
@@ -36,10 +46,15 @@ testpaths = ["tests"]
|
|||||||
|
|
||||||
[tool.hatch.build.targets.wheel]
|
[tool.hatch.build.targets.wheel]
|
||||||
packages = ["src/local_transcriber"]
|
packages = ["src/local_transcriber"]
|
||||||
|
exclude = [
|
||||||
|
"src/local_transcriber/benchmark_experiment.py",
|
||||||
|
"src/local_transcriber/experimental_diarization.py",
|
||||||
|
"src/local_transcriber/streaming_sortformer_experiment.py",
|
||||||
|
]
|
||||||
|
|
||||||
[[tool.uv.dependency-metadata]]
|
[[tool.uv.dependency-metadata]]
|
||||||
# Метаданные wheel-файлов sherpa расходятся, поэтому зависимость от core задана для uv явно.
|
# Метаданные wheel-файлов sherpa расходятся, поэтому зависимость от core задана для uv явно.
|
||||||
# Версии sherpa, override и core меняются вместе; проверка: uv tree --locked --package sherpa-onnx
|
# Версии sherpa, override и core меняются вместе; проверка: uv tree --locked --package sherpa-onnx
|
||||||
name = "sherpa-onnx"
|
name = "sherpa-onnx"
|
||||||
version = "1.13.5"
|
version = "1.13.6"
|
||||||
requires-dist = ["sherpa-onnx-core==1.13.5"]
|
requires-dist = ["sherpa-onnx-core==1.13.6"]
|
||||||
@@ -25,7 +25,7 @@ from tempfile import NamedTemporaryFile
|
|||||||
from typing import Any
|
from typing import Any
|
||||||
|
|
||||||
SCHEMA_VERSION = 2
|
SCHEMA_VERSION = 2
|
||||||
EXPECTED_SHERPA_ONNX_VERSION = "1.13.5"
|
EXPECTED_SHERPA_ONNX_VERSION = "1.13.6"
|
||||||
SAMPLE_RATE = 16_000
|
SAMPLE_RATE = 16_000
|
||||||
SAMPLE_WIDTH_BYTES = 2
|
SAMPLE_WIDTH_BYTES = 2
|
||||||
CHANNELS = 1
|
CHANNELS = 1
|
||||||
@@ -133,7 +133,7 @@ class PeakRssSampler:
|
|||||||
def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
||||||
parser = argparse.ArgumentParser(
|
parser = argparse.ArgumentParser(
|
||||||
description=(
|
description=(
|
||||||
"Проверяет и запускает воспроизводимый CPU-benchmark из issue #25. "
|
"Проверяет и запускает воспроизводимый CPU-benchmark диаризации. "
|
||||||
"Приватные пути и результаты остаются вне Git."
|
"Приватные пути и результаты остаются вне Git."
|
||||||
),
|
),
|
||||||
epilog=(
|
epilog=(
|
||||||
@@ -144,7 +144,7 @@ def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
|||||||
parser.add_argument(
|
parser.add_argument(
|
||||||
"--manifest",
|
"--manifest",
|
||||||
type=Path,
|
type=Path,
|
||||||
help="manifest v2; относительные пути считаются от его каталога",
|
help="manifest v2/v3; относительные пути считаются от его каталога",
|
||||||
)
|
)
|
||||||
parser.add_argument(
|
parser.add_argument(
|
||||||
"--output",
|
"--output",
|
||||||
@@ -156,6 +156,15 @@ def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
|||||||
type=Path,
|
type=Path,
|
||||||
help="каталог декодированных WAV и запросов дочерним процессам",
|
help="каталог декодированных WAV и запросов дочерним процессам",
|
||||||
)
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--capsule",
|
||||||
|
type=Path,
|
||||||
|
help="исходный ZIP приватной капсулы для проверки handoff",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--capsule-sha256",
|
||||||
|
help="ожидаемый внешний SHA-256 ZIP-капсулы",
|
||||||
|
)
|
||||||
# Оставлено для воспроизводимости старых команд; значение входит в experiment_id.
|
# Оставлено для воспроизводимости старых команд; значение входит в experiment_id.
|
||||||
parser.add_argument(
|
parser.add_argument(
|
||||||
"--threads",
|
"--threads",
|
||||||
@@ -201,6 +210,8 @@ def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
|||||||
missing.append("output")
|
missing.append("output")
|
||||||
if missing:
|
if missing:
|
||||||
parser.error("обязательные параметры: " + ", ".join(missing))
|
parser.error("обязательные параметры: " + ", ".join(missing))
|
||||||
|
if (args.capsule is None) != (args.capsule_sha256 is None):
|
||||||
|
parser.error("--capsule и --capsule-sha256 задаются вместе")
|
||||||
if args.prepare_asr is not None:
|
if args.prepare_asr is not None:
|
||||||
asr_missing = [
|
asr_missing = [
|
||||||
name
|
name
|
||||||
@@ -747,7 +758,7 @@ def select_threshold(
|
|||||||
|
|
||||||
|
|
||||||
def parse_stage_timings(stderr: str, sherpa_version: str) -> dict[str, float]:
|
def parse_stage_timings(stderr: str, sherpa_version: str) -> dict[str, float]:
|
||||||
"""Строго разбирает недокументированный debug-контракт sherpa 1.13.5."""
|
"""Строго разбирает недокументированный debug-контракт sherpa 1.13.6."""
|
||||||
if sherpa_version != EXPECTED_SHERPA_ONNX_VERSION:
|
if sherpa_version != EXPECTED_SHERPA_ONNX_VERSION:
|
||||||
raise ValueError(
|
raise ValueError(
|
||||||
f"Неизвестный формат stage timing sherpa-onnx {sherpa_version}"
|
f"Неизвестный формат stage timing sherpa-onnx {sherpa_version}"
|
||||||
@@ -1536,9 +1547,20 @@ def validation_summary(
|
|||||||
def main(argv: list[str] | None = None) -> None:
|
def main(argv: list[str] | None = None) -> None:
|
||||||
args = parse_args(argv)
|
args = parse_args(argv)
|
||||||
if args.worker is not None:
|
if args.worker is not None:
|
||||||
|
request = json.loads(args.worker.read_text(encoding="utf-8"))
|
||||||
|
if request.get("worker_schema_version") == 3:
|
||||||
|
from local_transcriber.benchmark_experiment import worker_main
|
||||||
|
|
||||||
|
worker_main(args.worker)
|
||||||
|
return
|
||||||
_worker_main(args.worker)
|
_worker_main(args.worker)
|
||||||
return
|
return
|
||||||
raw_manifest = json.loads(args.manifest.read_text(encoding="utf-8"))
|
raw_manifest = json.loads(args.manifest.read_text(encoding="utf-8"))
|
||||||
|
if raw_manifest.get("schema_version") == 3:
|
||||||
|
from local_transcriber.benchmark_experiment import run_cli
|
||||||
|
|
||||||
|
run_cli(args, raw_manifest)
|
||||||
|
return
|
||||||
validate_manifest(raw_manifest, verify_files=False)
|
validate_manifest(raw_manifest, verify_files=False)
|
||||||
manifest = resolve_manifest_paths(raw_manifest, args.manifest.parent)
|
manifest = resolve_manifest_paths(raw_manifest, args.manifest.parent)
|
||||||
if args.threads is not None:
|
if args.threads is not None:
|
||||||
|
|||||||
@@ -0,0 +1,8 @@
|
|||||||
|
"""Точка входа изолированного эксперимента Streaming Sortformer."""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
from local_transcriber.streaming_sortformer_experiment import main
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -1,12 +1,14 @@
|
|||||||
"""
|
"""
|
||||||
Preload CUDA-библиотек из pip-пакетов до импорта ctranslate2.
|
Подготовка CUDA-библиотек из extra перед созданием CUDA-модели.
|
||||||
|
|
||||||
Проблема: ctranslate2 на Linux делает dlopen("libcublas.so.12"),
|
Проблема: ctranslate2 на Linux делает dlopen("libcublas.so.12"),
|
||||||
но не знает, что библиотека лежит внутри pip-пакета nvidia-cublas-cu12.
|
но не знает, что библиотека лежит внутри pip-пакета nvidia-cublas-cu12.
|
||||||
На Windows ctranslate2 решает это сам через os.add_dll_directory.
|
На Windows ctranslate2 не добавляет nvidia/cublas/bin в поиск DLL.
|
||||||
|
Регистрируем каталог и загружаем cuBLAS Lt, затем cuBLAS по полному пути.
|
||||||
|
Храним DLL и регистрацию каталога до завершения процесса.
|
||||||
|
|
||||||
Решение: загружаем libcublas.so.12 по полному пути через ctypes.CDLL
|
Решение: загружаем libcublas.so.12 по полному пути через ctypes.CDLL
|
||||||
с флагом RTLD_GLOBAL до первого import ctranslate2. Динамический линкер
|
с флагом RTLD_GLOBAL до создания CUDA-модели. Динамический линкер
|
||||||
кеширует загруженные библиотеки по soname — когда ctranslate2 потом
|
кеширует загруженные библиотеки по soname — когда ctranslate2 потом
|
||||||
вызовет dlopen("libcublas.so.12"), линкер вернёт уже загруженный handle.
|
вызовет dlopen("libcublas.so.12"), линкер вернёт уже загруженный handle.
|
||||||
|
|
||||||
@@ -21,20 +23,24 @@ import glob
|
|||||||
import os
|
import os
|
||||||
import sys
|
import sys
|
||||||
|
|
||||||
|
# Закрытие регистрации удаляет каталог из поиска DLL, поэтому храним handles.
|
||||||
|
_dll_directories: dict[str, object] = {}
|
||||||
|
_dll_libraries: dict[str, object] = {}
|
||||||
|
|
||||||
|
|
||||||
def ensure_cublas_loadable() -> None:
|
def ensure_cublas_loadable() -> None:
|
||||||
"""Загружает libcublas из nvidia-cublas-cu12 в адресное пространство процесса.
|
"""Загружает cuBLAS из nvidia-cublas-cu12 в адресное пространство процесса.
|
||||||
|
|
||||||
Вызывать ДО первого import ctranslate2.
|
Вызывать перед созданием CUDA-модели; CPU-путь не требует bootstrap.
|
||||||
Безопасно вызывать многократно и на платформах без nvidia-cublas-cu12.
|
Безопасно вызывать многократно и на платформах без nvidia-cublas-cu12.
|
||||||
"""
|
"""
|
||||||
if sys.platform != "linux":
|
if sys.platform not in ("linux", "win32"):
|
||||||
return
|
return
|
||||||
|
|
||||||
try:
|
try:
|
||||||
import nvidia.cublas # type: ignore[import-untyped]
|
import nvidia.cublas # type: ignore[import-untyped]
|
||||||
except ImportError:
|
except ImportError:
|
||||||
# nvidia-cublas-cu12 не установлен (Windows, macOS, или CPU-only setup)
|
# Optional-пакет не установлен; системная cuBLAS всё ещё может работать.
|
||||||
return
|
return
|
||||||
|
|
||||||
# nvidia.cublas может быть namespace package (__file__ == None),
|
# nvidia.cublas может быть namespace package (__file__ == None),
|
||||||
@@ -42,6 +48,21 @@ def ensure_cublas_loadable() -> None:
|
|||||||
cublas_paths = getattr(nvidia.cublas, "__path__", None)
|
cublas_paths = getattr(nvidia.cublas, "__path__", None)
|
||||||
if not cublas_paths:
|
if not cublas_paths:
|
||||||
return
|
return
|
||||||
|
if sys.platform == "win32":
|
||||||
|
for package_path in cublas_paths:
|
||||||
|
bin_dir = os.path.join(package_path, "bin")
|
||||||
|
if not os.path.isdir(bin_dir):
|
||||||
|
continue
|
||||||
|
if bin_dir not in _dll_directories:
|
||||||
|
_dll_directories[bin_dir] = os.add_dll_directory(bin_dir)
|
||||||
|
# cuBLAS зависит от Lt; явный preload также обслуживает LoadLibrary
|
||||||
|
# внутри CTranslate2. Порядок здесь существенен.
|
||||||
|
for filename in ("cublasLt64_12.dll", "cublas64_12.dll"):
|
||||||
|
dll_path = os.path.join(bin_dir, filename)
|
||||||
|
if dll_path not in _dll_libraries:
|
||||||
|
_dll_libraries[dll_path] = ctypes.WinDLL(dll_path)
|
||||||
|
return
|
||||||
|
return
|
||||||
cublas_lib_dir = os.path.join(cublas_paths[0], "lib")
|
cublas_lib_dir = os.path.join(cublas_paths[0], "lib")
|
||||||
if not os.path.isdir(cublas_lib_dir):
|
if not os.path.isdir(cublas_lib_dir):
|
||||||
return
|
return
|
||||||
|
|||||||
@@ -16,6 +16,9 @@ class Backend(Protocol):
|
|||||||
наследование не требуется.
|
наследование не требуется.
|
||||||
"""
|
"""
|
||||||
|
|
||||||
|
engine: str
|
||||||
|
"""Имя движка для сведений о выполнении."""
|
||||||
|
|
||||||
@property
|
@property
|
||||||
def word_timestamps_available(self) -> bool:
|
def word_timestamps_available(self) -> bool:
|
||||||
"""Гарантирует ли выбранный backend/model пословные таймкоды."""
|
"""Гарантирует ли выбранный backend/model пословные таймкоды."""
|
||||||
@@ -53,3 +56,7 @@ class Backend(Protocol):
|
|||||||
) -> TranscribeResult:
|
) -> TranscribeResult:
|
||||||
"""Транскрибирует файл, возвращает результат."""
|
"""Транскрибирует файл, возвращает результат."""
|
||||||
...
|
...
|
||||||
|
|
||||||
|
def runtime_info(self) -> dict[str, str]:
|
||||||
|
"""Версии runtime и фактическая конфигурация для удалённой диагностики."""
|
||||||
|
...
|
||||||
@@ -6,21 +6,17 @@ from collections.abc import Callable
|
|||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
from typing import Any
|
from typing import Any
|
||||||
|
|
||||||
# CUDA bootstrap — должен быть ДО импорта faster_whisper / ctranslate2
|
from huggingface_hub import snapshot_download
|
||||||
|
from huggingface_hub.errors import LocalEntryNotFoundError
|
||||||
|
|
||||||
from local_transcriber._cuda_bootstrap import ensure_cublas_loadable
|
from local_transcriber._cuda_bootstrap import ensure_cublas_loadable
|
||||||
|
from local_transcriber.types import (
|
||||||
ensure_cublas_loadable()
|
|
||||||
|
|
||||||
from faster_whisper import WhisperModel # noqa: E402
|
|
||||||
from huggingface_hub import snapshot_download # noqa: E402
|
|
||||||
from huggingface_hub.errors import LocalEntryNotFoundError # noqa: E402
|
|
||||||
|
|
||||||
from local_transcriber.types import ( # noqa: E402
|
|
||||||
Segment,
|
Segment,
|
||||||
TranscribeResult,
|
TranscribeResult,
|
||||||
Word,
|
Word,
|
||||||
WordTimestampsUnavailableError,
|
WordTimestampsUnavailableError,
|
||||||
)
|
)
|
||||||
|
from local_transcriber.utils import package_version
|
||||||
|
|
||||||
MODEL_REPOS = {
|
MODEL_REPOS = {
|
||||||
"tiny": "Systran/faster-whisper-tiny",
|
"tiny": "Systran/faster-whisper-tiny",
|
||||||
@@ -48,10 +44,12 @@ MODEL_REQUIRED_FILES = [
|
|||||||
class FasterWhisperBackend:
|
class FasterWhisperBackend:
|
||||||
"""Бэкенд транскрипции через faster-whisper (CTranslate2)."""
|
"""Бэкенд транскрипции через faster-whisper (CTranslate2)."""
|
||||||
|
|
||||||
|
engine = "faster-whisper"
|
||||||
word_timestamps_available = True
|
word_timestamps_available = True
|
||||||
|
|
||||||
def __init__(self):
|
def __init__(self):
|
||||||
self.actual_compute_type: str | None = None
|
self.actual_compute_type: str | None = None
|
||||||
|
self._cpu_threads = 0
|
||||||
|
|
||||||
def ensure_model_available(
|
def ensure_model_available(
|
||||||
self,
|
self,
|
||||||
@@ -94,6 +92,12 @@ class FasterWhisperBackend:
|
|||||||
|
|
||||||
cpu_threads: число потоков для CPU inference (0 = дефолт библиотеки, обычно 4).
|
cpu_threads: число потоков для CPU inference (0 = дефолт библиотеки, обычно 4).
|
||||||
"""
|
"""
|
||||||
|
if device == "cuda":
|
||||||
|
ensure_cublas_loadable()
|
||||||
|
|
||||||
|
from faster_whisper import WhisperModel
|
||||||
|
|
||||||
|
self._cpu_threads = cpu_threads
|
||||||
try:
|
try:
|
||||||
return WhisperModel(
|
return WhisperModel(
|
||||||
model_path,
|
model_path,
|
||||||
@@ -157,6 +161,22 @@ class FasterWhisperBackend:
|
|||||||
words=words,
|
words=words,
|
||||||
)
|
)
|
||||||
|
|
||||||
|
def runtime_info(self) -> dict[str, str]:
|
||||||
|
"""Версии CTranslate2/faster-whisper и число видимых CUDA-устройств."""
|
||||||
|
import ctranslate2
|
||||||
|
|
||||||
|
try:
|
||||||
|
cuda_devices = str(ctranslate2.get_cuda_device_count())
|
||||||
|
except Exception as exc: # noqa: BLE001 — диагностика не должна ронять запуск
|
||||||
|
cuda_devices = f"недоступно ({exc})"
|
||||||
|
return {
|
||||||
|
"faster_whisper": package_version("faster-whisper"),
|
||||||
|
"ctranslate2": package_version("ctranslate2"),
|
||||||
|
"cuda_devices": cuda_devices,
|
||||||
|
"compute_type": self.actual_compute_type or "",
|
||||||
|
"cpu_threads": str(self._cpu_threads) if self._cpu_threads else "по умолчанию",
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
def _notify(on_status: Callable[[str], None] | None, message: str) -> None:
|
def _notify(on_status: Callable[[str], None] | None, message: str) -> None:
|
||||||
if on_status is not None:
|
if on_status is not None:
|
||||||
|
|||||||
@@ -15,6 +15,7 @@ from local_transcriber.types import (
|
|||||||
Word,
|
Word,
|
||||||
WordTimestampsUnavailableError,
|
WordTimestampsUnavailableError,
|
||||||
)
|
)
|
||||||
|
from local_transcriber.utils import package_version
|
||||||
|
|
||||||
|
|
||||||
@dataclass(frozen=True)
|
@dataclass(frozen=True)
|
||||||
@@ -131,6 +132,8 @@ def _normalize_quantization(compute_type: str) -> str | None:
|
|||||||
class OnnxAsrBackend:
|
class OnnxAsrBackend:
|
||||||
"""Бэкенд транскрипции через onnx-asr (ONNX Runtime)."""
|
"""Бэкенд транскрипции через onnx-asr (ONNX Runtime)."""
|
||||||
|
|
||||||
|
engine = "onnx-asr"
|
||||||
|
|
||||||
def __init__(self, compute_type_explicit: bool = True):
|
def __init__(self, compute_type_explicit: bool = True):
|
||||||
self._compute_type_explicit = compute_type_explicit
|
self._compute_type_explicit = compute_type_explicit
|
||||||
self.actual_compute_type: str | None = None
|
self.actual_compute_type: str | None = None
|
||||||
@@ -138,6 +141,9 @@ class OnnxAsrBackend:
|
|||||||
self._model_name: str | None = None
|
self._model_name: str | None = None
|
||||||
self._model_spec: OnnxModelSpec | None = None
|
self._model_spec: OnnxModelSpec | None = None
|
||||||
self._vad: Any = None
|
self._vad: Any = None
|
||||||
|
self._providers: list[str] = []
|
||||||
|
self._quantization: str | None = None
|
||||||
|
self._cpu_threads = 0
|
||||||
|
|
||||||
@property
|
@property
|
||||||
def word_timestamps_available(self) -> bool:
|
def word_timestamps_available(self) -> bool:
|
||||||
@@ -191,20 +197,49 @@ class OnnxAsrBackend:
|
|||||||
|
|
||||||
compute_type маппится в onnx-asr ``quantization`` — это суффикс файла
|
compute_type маппится в onnx-asr ``quantization`` — это суффикс файла
|
||||||
модели; для unquantized (float32/fp32) нужно None, не строку.
|
модели; для unquantized (float32/fp32) нужно None, не строку.
|
||||||
|
cpu_threads > 0 задаёт intra_op_num_threads сессиям ASR и VAD;
|
||||||
|
0 оставляет настройки потоков onnxruntime.
|
||||||
"""
|
"""
|
||||||
import onnx_asr
|
import onnx_asr
|
||||||
|
|
||||||
actual_compute_type = self.actual_compute_type or compute_type
|
actual_compute_type = self.actual_compute_type or compute_type
|
||||||
quantization = _normalize_quantization(actual_compute_type)
|
quantization = _normalize_quantization(actual_compute_type)
|
||||||
|
|
||||||
|
providers = ["CPUExecutionProvider"]
|
||||||
|
session_kwargs: dict[str, Any] = {"providers": providers}
|
||||||
|
if cpu_threads > 0:
|
||||||
|
session_kwargs["sess_options"] = _session_options(cpu_threads)
|
||||||
model = onnx_asr.load_model(
|
model = onnx_asr.load_model(
|
||||||
model=model_path,
|
model=model_path,
|
||||||
quantization=quantization,
|
quantization=quantization,
|
||||||
|
**session_kwargs,
|
||||||
)
|
)
|
||||||
vad = onnx_asr.load_vad("silero")
|
vad = onnx_asr.load_vad("silero", **session_kwargs)
|
||||||
self._vad = vad
|
self._vad = vad
|
||||||
|
self._providers = providers
|
||||||
|
self._quantization = quantization
|
||||||
|
self._cpu_threads = cpu_threads
|
||||||
return model.with_vad(vad).with_timestamps()
|
return model.with_vad(vad).with_timestamps()
|
||||||
|
|
||||||
|
def runtime_info(self) -> dict[str, str]:
|
||||||
|
"""Версии ONNX Runtime/onnx-asr и providers, заданные сессиям ASR и VAD.
|
||||||
|
|
||||||
|
Доступность provider в wheel не означает, что граф выполняется на нём:
|
||||||
|
сессии получают только явно заданный список.
|
||||||
|
"""
|
||||||
|
import onnxruntime
|
||||||
|
|
||||||
|
configured = ", ".join(self._providers)
|
||||||
|
return {
|
||||||
|
"onnxruntime": package_version("onnxruntime"),
|
||||||
|
"onnx_asr": package_version("onnx-asr"),
|
||||||
|
"available_providers": ", ".join(onnxruntime.get_available_providers()),
|
||||||
|
"asr_providers": configured,
|
||||||
|
"vad_providers": configured,
|
||||||
|
"quantization": self._quantization or "float32",
|
||||||
|
"intra_op_threads": str(self._cpu_threads) if self._cpu_threads else "по умолчанию",
|
||||||
|
}
|
||||||
|
|
||||||
def transcribe(
|
def transcribe(
|
||||||
self,
|
self,
|
||||||
model: Any,
|
model: Any,
|
||||||
@@ -278,7 +313,7 @@ class OnnxAsrBackend:
|
|||||||
fallback = _whisper_fallback_model(model_name)
|
fallback = _whisper_fallback_model(model_name)
|
||||||
raise ValueError(
|
raise ValueError(
|
||||||
f"Модель '{model_name}' относится к Whisper и не поддерживается "
|
f"Модель '{model_name}' относится к Whisper и не поддерживается "
|
||||||
"ONNX-бэкендом. Без CUDA --device auto выбирает ONNX; "
|
"ONNX-бэкендом. --device auto всегда выбирает ONNX CPU; "
|
||||||
f"укажите --device openvino-cpu --model {model_name} на x86, "
|
f"укажите --device openvino-cpu --model {model_name} на x86, "
|
||||||
f"--device cpu --model {fallback} на любой платформе "
|
f"--device cpu --model {fallback} на любой платформе "
|
||||||
f"или --device cuda --model {fallback} при NVIDIA GPU."
|
f"или --device cuda --model {fallback} при NVIDIA GPU."
|
||||||
@@ -313,6 +348,15 @@ class OnnxAsrBackend:
|
|||||||
)
|
)
|
||||||
|
|
||||||
|
|
||||||
|
def _session_options(cpu_threads: int) -> Any:
|
||||||
|
"""SessionOptions с бюджетом потоков; общий объект для ASR и VAD."""
|
||||||
|
import onnxruntime
|
||||||
|
|
||||||
|
options = onnxruntime.SessionOptions()
|
||||||
|
options.intra_op_num_threads = cpu_threads
|
||||||
|
return options
|
||||||
|
|
||||||
|
|
||||||
def _format_compute_types(quantizations: frozenset[str | None]) -> str:
|
def _format_compute_types(quantizations: frozenset[str | None]) -> str:
|
||||||
values = [_compute_type_for_quantization(value) for value in quantizations]
|
values = [_compute_type_for_quantization(value) for value in quantizations]
|
||||||
return ", ".join(sorted(values))
|
return ", ".join(sorted(values))
|
||||||
|
|||||||
@@ -19,6 +19,7 @@ from local_transcriber.types import (
|
|||||||
Word,
|
Word,
|
||||||
WordTimestampsUnavailableError,
|
WordTimestampsUnavailableError,
|
||||||
)
|
)
|
||||||
|
from local_transcriber.utils import package_version
|
||||||
|
|
||||||
# (model_alias, compute_type) → HF repo
|
# (model_alias, compute_type) → HF repo
|
||||||
MODEL_REPOS: dict[tuple[str, str], str] = {
|
MODEL_REPOS: dict[tuple[str, str], str] = {
|
||||||
@@ -56,6 +57,7 @@ MODEL_REQUIRED_FILES = [
|
|||||||
class OpenVINOBackend:
|
class OpenVINOBackend:
|
||||||
"""Бэкенд транскрипции через openvino-genai WhisperPipeline."""
|
"""Бэкенд транскрипции через openvino-genai WhisperPipeline."""
|
||||||
|
|
||||||
|
engine = "openvino"
|
||||||
word_timestamps_available = True
|
word_timestamps_available = True
|
||||||
|
|
||||||
def __init__(
|
def __init__(
|
||||||
@@ -203,6 +205,18 @@ class OpenVINOBackend:
|
|||||||
words=words,
|
words=words,
|
||||||
)
|
)
|
||||||
|
|
||||||
|
def runtime_info(self) -> dict[str, str]:
|
||||||
|
"""Версия OpenVINO, доступные устройства и выбранное фактически."""
|
||||||
|
from openvino import Core
|
||||||
|
|
||||||
|
return {
|
||||||
|
"openvino": package_version("openvino"),
|
||||||
|
"available_devices": ", ".join(Core().available_devices),
|
||||||
|
"device": self.actual_ov_device or "",
|
||||||
|
"compute_type": self.actual_compute_type or "",
|
||||||
|
"threads": "управляет OpenVINO, --threads не применяется",
|
||||||
|
}
|
||||||
|
|
||||||
def _resolve_repo(self, model_name: str, compute_type: str) -> tuple[str, str]:
|
def _resolve_repo(self, model_name: str, compute_type: str) -> tuple[str, str]:
|
||||||
"""Находит HF repo для пары (model, compute_type) с fallback.
|
"""Находит HF repo для пары (model, compute_type) с fallback.
|
||||||
|
|
||||||
|
|||||||
File diff suppressed because it is too large.
Load diff
+108
-194
@@ -11,7 +11,11 @@ import typer
|
|||||||
from rich.console import Console
|
from rich.console import Console
|
||||||
from rich.status import Status
|
from rich.status import Status
|
||||||
|
|
||||||
from .config import apply_device_defaults, load_config, resolve_defaults
|
from .config import (
|
||||||
|
CliValues,
|
||||||
|
load_config,
|
||||||
|
resolve_defaults,
|
||||||
|
)
|
||||||
from .context_menu import install_menu as install_context_menu
|
from .context_menu import install_menu as install_context_menu
|
||||||
from .context_menu import uninstall_menu as uninstall_context_menu
|
from .context_menu import uninstall_menu as uninstall_context_menu
|
||||||
from .diarization import build_speaker_transcript
|
from .diarization import build_speaker_transcript
|
||||||
@@ -33,11 +37,12 @@ from .quality import (
|
|||||||
)
|
)
|
||||||
from .speaker_diarizer import SpeakerDiarizer, load_speaker_diarizer
|
from .speaker_diarizer import SpeakerDiarizer, load_speaker_diarizer
|
||||||
from .transcriber import (
|
from .transcriber import (
|
||||||
|
ExecutionInfo,
|
||||||
|
ExecutionRequest,
|
||||||
Segment,
|
Segment,
|
||||||
|
Transcriber,
|
||||||
TranscribeResult,
|
TranscribeResult,
|
||||||
_is_cuda_error,
|
cuda_error_hint,
|
||||||
_transcribe_file,
|
|
||||||
load_model,
|
|
||||||
)
|
)
|
||||||
from .types import (
|
from .types import (
|
||||||
UNKNOWN_LANGUAGE,
|
UNKNOWN_LANGUAGE,
|
||||||
@@ -47,10 +52,7 @@ from .types import (
|
|||||||
)
|
)
|
||||||
from .utils import (
|
from .utils import (
|
||||||
build_output_path,
|
build_output_path,
|
||||||
detect_device,
|
|
||||||
expand_globs,
|
expand_globs,
|
||||||
get_gpu_name,
|
|
||||||
get_intel_gpu_name,
|
|
||||||
has_existing_transcript,
|
has_existing_transcript,
|
||||||
validate_input_file,
|
validate_input_file,
|
||||||
)
|
)
|
||||||
@@ -59,6 +61,13 @@ app = typer.Typer()
|
|||||||
console = Console(stderr=True)
|
console = Console(stderr=True)
|
||||||
|
|
||||||
|
|
||||||
|
def _print_cuda_hint(exc: BaseException, device: str | None = None) -> None:
|
||||||
|
"""Показывает подсказку, не заменяя исходную ошибку."""
|
||||||
|
hint = cuda_error_hint(exc, device=device)
|
||||||
|
if hint:
|
||||||
|
console.print(hint, style="yellow", markup=False)
|
||||||
|
|
||||||
|
|
||||||
def _show_cli_warning(
|
def _show_cli_warning(
|
||||||
message: Warning | str,
|
message: Warning | str,
|
||||||
*_args: object,
|
*_args: object,
|
||||||
@@ -82,21 +91,6 @@ def _with_cli_warning_renderer(
|
|||||||
return wrapped
|
return wrapped
|
||||||
|
|
||||||
|
|
||||||
def _format_device_info(device_used: str) -> str:
|
|
||||||
"""Формирует строку устройства для шапки транскрипта."""
|
|
||||||
if device_used == "cuda":
|
|
||||||
gpu_name = get_gpu_name()
|
|
||||||
return f"CUDA ({gpu_name or 'Unknown GPU'})"
|
|
||||||
if device_used == "openvino-gpu":
|
|
||||||
gpu_name = get_intel_gpu_name()
|
|
||||||
return f"OpenVINO ({gpu_name or 'Intel GPU'})"
|
|
||||||
if device_used in ("openvino", "openvino-cpu"):
|
|
||||||
return "OpenVINO (CPU)"
|
|
||||||
if device_used == "onnx":
|
|
||||||
return "ONNX (CPU)"
|
|
||||||
return "CPU"
|
|
||||||
|
|
||||||
|
|
||||||
def _format_language_mode(requested_language: str, result: TranscribeResult) -> str:
|
def _format_language_mode(requested_language: str, result: TranscribeResult) -> str:
|
||||||
"""Описывает источник языка, не выдавая профиль модели за детектор."""
|
"""Описывает источник языка, не выдавая профиль модели за детектор."""
|
||||||
if requested_language != "auto":
|
if requested_language != "auto":
|
||||||
@@ -261,9 +255,9 @@ def main(
|
|||||||
min=0,
|
min=0,
|
||||||
help="Потоки CPU (0 = дефолт библиотеки; рекомендуется = число физ. ядер)",
|
help="Потоки CPU (0 = дефолт библиотеки; рекомендуется = число физ. ядер)",
|
||||||
),
|
),
|
||||||
diarize: bool = typer.Option(
|
diarize: bool | None = typer.Option(
|
||||||
False,
|
None,
|
||||||
"--diarize",
|
"--diarize/--no-diarize",
|
||||||
help="Разделить транскрипт на реплики говорящих",
|
help="Разделить транскрипт на реплики говорящих",
|
||||||
),
|
),
|
||||||
speakers: int | None = typer.Option(
|
speakers: int | None = typer.Option(
|
||||||
@@ -328,20 +322,36 @@ def main(
|
|||||||
)
|
)
|
||||||
raise SystemExit(2)
|
raise SystemExit(2)
|
||||||
|
|
||||||
|
if diarize is False and speakers is not None:
|
||||||
|
console.print(
|
||||||
|
"--no-diarize и --speakers несовместимы.",
|
||||||
|
style="red bold",
|
||||||
|
)
|
||||||
|
raise SystemExit(2)
|
||||||
|
|
||||||
|
requested_device: str | None = None
|
||||||
try:
|
try:
|
||||||
config = load_config()
|
config = load_config()
|
||||||
cli_values = {
|
cli_values: CliValues = {
|
||||||
"model": model,
|
"model": model,
|
||||||
"language": language,
|
"language": language,
|
||||||
"device": device,
|
"device": device,
|
||||||
"compute_type": compute_type,
|
"compute_type": compute_type,
|
||||||
|
"diarize": diarize,
|
||||||
}
|
}
|
||||||
defaults = resolve_defaults(cli_values, config)
|
defaults = resolve_defaults(cli_values, config)
|
||||||
|
diarize_enabled = defaults["diarize"] is True or speakers is not None
|
||||||
|
requested_device = defaults["device"]
|
||||||
|
|
||||||
resolved_device = detect_device(defaults["device"])
|
# Умолчания model/compute_type зависят от устройства — их разрешает module.
|
||||||
defaults = apply_device_defaults(defaults, resolved_device, cli_values, config)
|
request = ExecutionRequest(
|
||||||
|
device=requested_device,
|
||||||
ct_explicit = compute_type is not None or "compute_type" in config
|
model=defaults["model"],
|
||||||
|
compute_type=defaults["compute_type"],
|
||||||
|
language=defaults["language"],
|
||||||
|
cpu_threads=threads,
|
||||||
|
require_word_timestamps=diarize_enabled,
|
||||||
|
)
|
||||||
|
|
||||||
expanded = expand_globs(files)
|
expanded = expand_globs(files)
|
||||||
if not expanded:
|
if not expanded:
|
||||||
@@ -358,23 +368,19 @@ def main(
|
|||||||
if is_batch:
|
if is_batch:
|
||||||
_run_batch(
|
_run_batch(
|
||||||
expanded,
|
expanded,
|
||||||
defaults,
|
request,
|
||||||
verbose,
|
verbose,
|
||||||
force,
|
force,
|
||||||
ct_explicit,
|
diarize=diarize_enabled,
|
||||||
cpu_threads=threads,
|
|
||||||
diarize=diarize or speakers is not None,
|
|
||||||
speakers=speakers,
|
speakers=speakers,
|
||||||
)
|
)
|
||||||
else:
|
else:
|
||||||
_run_single(
|
_run_single(
|
||||||
expanded[0],
|
expanded[0],
|
||||||
defaults,
|
request,
|
||||||
output,
|
output,
|
||||||
verbose,
|
verbose,
|
||||||
ct_explicit,
|
diarize=diarize_enabled,
|
||||||
cpu_threads=threads,
|
|
||||||
diarize=diarize or speakers is not None,
|
|
||||||
speakers=speakers,
|
speakers=speakers,
|
||||||
)
|
)
|
||||||
except KeyboardInterrupt:
|
except KeyboardInterrupt:
|
||||||
@@ -383,21 +389,15 @@ def main(
|
|||||||
except SystemExit:
|
except SystemExit:
|
||||||
raise
|
raise
|
||||||
except ValueError as exc:
|
except ValueError as exc:
|
||||||
|
_print_cuda_hint(exc, requested_device)
|
||||||
console.print(f"Ошибка: {exc}", style="red bold")
|
console.print(f"Ошибка: {exc}", style="red bold")
|
||||||
raise SystemExit(1)
|
raise SystemExit(1)
|
||||||
except (FileNotFoundError,) as exc:
|
except (FileNotFoundError,) as exc:
|
||||||
|
_print_cuda_hint(exc, requested_device)
|
||||||
console.print(f"Ошибка: {exc}", style="red bold")
|
console.print(f"Ошибка: {exc}", style="red bold")
|
||||||
raise SystemExit(1)
|
raise SystemExit(1)
|
||||||
except Exception as exc:
|
except Exception as exc:
|
||||||
if _is_cuda_error(exc) and sys.platform == "win32":
|
_print_cuda_hint(exc, requested_device)
|
||||||
console.print(
|
|
||||||
"GPU на Windows требует CUDA toolkit (включает cuBLAS).\n"
|
|
||||||
"Установите одним из способов:\n"
|
|
||||||
" choco install cuda\n"
|
|
||||||
" winget install -e --id Nvidia.CUDA\n"
|
|
||||||
"После установки перезапустите терминал.",
|
|
||||||
style="yellow",
|
|
||||||
)
|
|
||||||
if verbose:
|
if verbose:
|
||||||
console.print_exception()
|
console.print_exception()
|
||||||
else:
|
else:
|
||||||
@@ -406,13 +406,50 @@ def main(
|
|||||||
raise SystemExit(1)
|
raise SystemExit(1)
|
||||||
|
|
||||||
|
|
||||||
|
def _print_execution_header(info: ExecutionInfo, verbose: bool) -> None:
|
||||||
|
"""Печатает выбранное исполнение; в --verbose — версии runtime для диагностики."""
|
||||||
|
console.print(
|
||||||
|
f"Модель: [bold]{info.model}[/bold] "
|
||||||
|
f"Устройство: [bold]{info.device}[/bold] "
|
||||||
|
f"Compute: [bold]{info.compute_type}[/bold]"
|
||||||
|
)
|
||||||
|
if info.device == "openvino-gpu" and info.model != "large-v3":
|
||||||
|
console.print(
|
||||||
|
"Совет: --model large-v3 даёт лучшее качество на GPU (~2x дольше)",
|
||||||
|
style="dim",
|
||||||
|
)
|
||||||
|
if info.device != info.resolved_device:
|
||||||
|
console.print(
|
||||||
|
f"Запрошено {info.requested_device}, используется {info.device}",
|
||||||
|
style="yellow",
|
||||||
|
)
|
||||||
|
if verbose:
|
||||||
|
threads = info.cpu_threads or "по умолчанию библиотеки"
|
||||||
|
console.print(
|
||||||
|
f"Движок: {info.engine} Потоки (запрошено): {threads}", style="dim"
|
||||||
|
)
|
||||||
|
for key, value in info.runtime.items():
|
||||||
|
console.print(f" {key}: {value}", style="dim", markup=False)
|
||||||
|
|
||||||
|
|
||||||
|
def _load_diarizer(
|
||||||
|
diarize: bool, speakers: int | None, cpu_threads: int
|
||||||
|
) -> SpeakerDiarizer | None:
|
||||||
|
"""Готовит диаризатор до первого ASR; пословный контракт уже проверен module."""
|
||||||
|
if not diarize:
|
||||||
|
return None
|
||||||
|
return load_speaker_diarizer(
|
||||||
|
speakers=speakers,
|
||||||
|
threads=cpu_threads,
|
||||||
|
on_status=lambda message: console.print(message),
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
def _run_single(
|
def _run_single(
|
||||||
file: Path,
|
file: Path,
|
||||||
defaults: dict[str, str],
|
request: ExecutionRequest,
|
||||||
output: Path | None,
|
output: Path | None,
|
||||||
verbose: bool,
|
verbose: bool,
|
||||||
compute_type_explicit: bool = False,
|
|
||||||
cpu_threads: int = 0,
|
|
||||||
diarize: bool = False,
|
diarize: bool = False,
|
||||||
speakers: int | None = None,
|
speakers: int | None = None,
|
||||||
) -> None:
|
) -> None:
|
||||||
@@ -420,9 +457,6 @@ def _run_single(
|
|||||||
start = time.monotonic()
|
start = time.monotonic()
|
||||||
|
|
||||||
validated_file = validate_input_file(file)
|
validated_file = validate_input_file(file)
|
||||||
requested_device = defaults["device"]
|
|
||||||
resolved_device = detect_device(requested_device)
|
|
||||||
strict = requested_device != "auto"
|
|
||||||
output_path = build_output_path(validated_file, output)
|
output_path = build_output_path(validated_file, output)
|
||||||
|
|
||||||
console.print(f"Файл: [bold]{validated_file.name}[/bold]")
|
console.print(f"Файл: [bold]{validated_file.name}[/bold]")
|
||||||
@@ -430,59 +464,18 @@ def _run_single(
|
|||||||
def on_segment(seg: Segment) -> None:
|
def on_segment(seg: Segment) -> None:
|
||||||
console.print(f" [{seg.start:.2f}s] {seg.text.strip()}")
|
console.print(f" [{seg.start:.2f}s] {seg.text.strip()}")
|
||||||
|
|
||||||
model_obj, actual_device, backend, model_path = load_model(
|
transcriber = Transcriber(request)
|
||||||
defaults["model"],
|
info = transcriber.prepare(on_status=lambda msg: console.print(msg))
|
||||||
resolved_device,
|
_print_execution_header(info, verbose)
|
||||||
defaults["compute_type"],
|
speaker_diarizer = _load_diarizer(diarize, speakers, request.cpu_threads)
|
||||||
on_status=lambda msg: console.print(msg),
|
|
||||||
strict_device=strict,
|
|
||||||
compute_type_explicit=compute_type_explicit,
|
|
||||||
cpu_threads=cpu_threads,
|
|
||||||
)
|
|
||||||
actual_ct = (
|
|
||||||
getattr(backend, "actual_compute_type", defaults["compute_type"])
|
|
||||||
or defaults["compute_type"]
|
|
||||||
)
|
|
||||||
console.print(
|
|
||||||
f"Модель: [bold]{defaults['model']}[/bold] "
|
|
||||||
f"Устройство: [bold]{actual_device}[/bold] "
|
|
||||||
f"Compute: [bold]{actual_ct}[/bold]"
|
|
||||||
)
|
|
||||||
if actual_device == "openvino-gpu" and defaults["model"] != "large-v3":
|
|
||||||
console.print(
|
|
||||||
"Совет: --model large-v3 даёт лучшее качество на GPU (~2x дольше)",
|
|
||||||
style="dim",
|
|
||||||
)
|
|
||||||
|
|
||||||
speaker_diarizer = None
|
|
||||||
if diarize:
|
|
||||||
if not backend.word_timestamps_available:
|
|
||||||
raise ValueError(
|
|
||||||
"Выбранный движок или модель не поддерживает пословные таймкоды"
|
|
||||||
)
|
|
||||||
speaker_diarizer = load_speaker_diarizer(
|
|
||||||
speakers=speakers,
|
|
||||||
threads=cpu_threads,
|
|
||||||
on_status=lambda message: console.print(message),
|
|
||||||
)
|
|
||||||
|
|
||||||
with Status("Подготавливаю запуск...", console=console) as status:
|
with Status("Подготавливаю запуск...", console=console) as status:
|
||||||
tfr = _transcribe_file(
|
result = transcriber.transcribe(
|
||||||
model=model_obj,
|
validated_file,
|
||||||
actual_device=actual_device,
|
|
||||||
backend=backend,
|
|
||||||
model_path=model_path,
|
|
||||||
file_path=validated_file,
|
|
||||||
model_name=defaults["model"],
|
|
||||||
compute_type=defaults["compute_type"],
|
|
||||||
language=defaults["language"] if defaults["language"] != "auto" else None,
|
|
||||||
on_segment=on_segment if verbose else None,
|
on_segment=on_segment if verbose else None,
|
||||||
on_status=status.update,
|
on_status=status.update,
|
||||||
strict_device=strict,
|
|
||||||
cpu_threads=cpu_threads,
|
|
||||||
)
|
)
|
||||||
|
|
||||||
result = tfr.result
|
|
||||||
speaker_transcript = None
|
speaker_transcript = None
|
||||||
diarization_warning = None
|
diarization_warning = None
|
||||||
diarization_degraded = False
|
diarization_degraded = False
|
||||||
@@ -509,33 +502,19 @@ def _run_single(
|
|||||||
if diarization_warning is not None:
|
if diarization_warning is not None:
|
||||||
console.print(f"Внимание: {diarization_warning}", style="yellow")
|
console.print(f"Внимание: {diarization_warning}", style="yellow")
|
||||||
|
|
||||||
if tfr.actual_device != resolved_device:
|
|
||||||
if requested_device == "auto":
|
|
||||||
console.print(
|
|
||||||
f"Определено устройство {resolved_device}, "
|
|
||||||
f"но использовано {tfr.actual_device} (fallback)",
|
|
||||||
style="yellow",
|
|
||||||
)
|
|
||||||
else:
|
|
||||||
console.print(
|
|
||||||
f"Запрошено {requested_device}, использовано {tfr.actual_device}",
|
|
||||||
style="yellow",
|
|
||||||
)
|
|
||||||
|
|
||||||
if len(result.segments) == 0:
|
if len(result.segments) == 0:
|
||||||
message = f"Речь не обнаружена в файле {validated_file.name}"
|
message = f"Речь не обнаружена в файле {validated_file.name}"
|
||||||
if speaker_diarizer is not None:
|
if speaker_diarizer is not None:
|
||||||
message += "; диаризация не запускалась"
|
message += "; диаризация не запускалась"
|
||||||
console.print(message, style="yellow")
|
console.print(message, style="yellow")
|
||||||
|
|
||||||
device_info = _format_device_info(result.device_used)
|
language_mode = _format_language_mode(request.language or "auto", result)
|
||||||
language_mode = _format_language_mode(defaults["language"], result)
|
|
||||||
|
|
||||||
content = format_transcript(
|
content = format_transcript(
|
||||||
result=result,
|
result=result,
|
||||||
source_filename=validated_file.name,
|
source_filename=validated_file.name,
|
||||||
model_name=defaults["model"],
|
model_name=info.model,
|
||||||
device_info=device_info,
|
device_info=info.description,
|
||||||
language_mode=language_mode,
|
language_mode=language_mode,
|
||||||
speaker_transcript=speaker_transcript,
|
speaker_transcript=speaker_transcript,
|
||||||
diarization_warning=diarization_warning,
|
diarization_warning=diarization_warning,
|
||||||
@@ -552,11 +531,9 @@ def _run_single(
|
|||||||
|
|
||||||
def _run_batch(
|
def _run_batch(
|
||||||
files: list[Path],
|
files: list[Path],
|
||||||
defaults: dict[str, str],
|
request: ExecutionRequest,
|
||||||
verbose: bool,
|
verbose: bool,
|
||||||
force: bool,
|
force: bool,
|
||||||
compute_type_explicit: bool = False,
|
|
||||||
cpu_threads: int = 0,
|
|
||||||
diarize: bool = False,
|
diarize: bool = False,
|
||||||
speakers: int | None = None,
|
speakers: int | None = None,
|
||||||
) -> None:
|
) -> None:
|
||||||
@@ -586,50 +563,11 @@ def _run_batch(
|
|||||||
raise SystemExit(1)
|
raise SystemExit(1)
|
||||||
return
|
return
|
||||||
|
|
||||||
# Phase 2: Load model (ensure + create в одном вызове)
|
# Phase 2: module выполнения создаётся, когда есть работа
|
||||||
requested_device = defaults["device"]
|
transcriber = Transcriber(request)
|
||||||
resolved_device = detect_device(requested_device)
|
info = transcriber.prepare(on_status=lambda msg: console.print(msg))
|
||||||
strict = requested_device != "auto"
|
_print_execution_header(info, verbose)
|
||||||
model_obj, actual_device, backend, model_path = load_model(
|
speaker_diarizer = _load_diarizer(diarize, speakers, request.cpu_threads)
|
||||||
defaults["model"],
|
|
||||||
resolved_device,
|
|
||||||
defaults["compute_type"],
|
|
||||||
on_status=lambda msg: console.print(msg),
|
|
||||||
strict_device=strict,
|
|
||||||
compute_type_explicit=compute_type_explicit,
|
|
||||||
cpu_threads=cpu_threads,
|
|
||||||
)
|
|
||||||
|
|
||||||
if actual_device == "openvino-gpu" and defaults["model"] != "large-v3":
|
|
||||||
console.print(
|
|
||||||
"Совет: --model large-v3 даёт лучшее качество на GPU (~2x дольше)",
|
|
||||||
style="dim",
|
|
||||||
)
|
|
||||||
|
|
||||||
if actual_device != resolved_device:
|
|
||||||
if requested_device == "auto":
|
|
||||||
console.print(
|
|
||||||
f"Определено устройство {resolved_device}, "
|
|
||||||
f"но используется {actual_device} (fallback)",
|
|
||||||
style="yellow",
|
|
||||||
)
|
|
||||||
else:
|
|
||||||
console.print(
|
|
||||||
f"Запрошено {requested_device}, используется {actual_device}",
|
|
||||||
style="yellow",
|
|
||||||
)
|
|
||||||
|
|
||||||
speaker_diarizer = None
|
|
||||||
if diarize:
|
|
||||||
if not backend.word_timestamps_available:
|
|
||||||
raise ValueError(
|
|
||||||
"Выбранный движок или модель не поддерживает пословные таймкоды"
|
|
||||||
)
|
|
||||||
speaker_diarizer = load_speaker_diarizer(
|
|
||||||
speakers=speakers,
|
|
||||||
threads=cpu_threads,
|
|
||||||
on_status=lambda message: console.print(message),
|
|
||||||
)
|
|
||||||
|
|
||||||
# Phase 3: Transcribe
|
# Phase 3: Transcribe
|
||||||
processed = 0
|
processed = 0
|
||||||
@@ -647,38 +585,15 @@ def _run_batch(
|
|||||||
console.print(f" [{seg.start:.2f}s] {seg.text.strip()}")
|
console.print(f" [{seg.start:.2f}s] {seg.text.strip()}")
|
||||||
|
|
||||||
with Status(f"{prefix}...", console=console) as status:
|
with Status(f"{prefix}...", console=console) as status:
|
||||||
tfr = _transcribe_file(
|
result = transcriber.transcribe(
|
||||||
model=model_obj,
|
file,
|
||||||
actual_device=actual_device,
|
|
||||||
backend=backend,
|
|
||||||
model_path=model_path,
|
|
||||||
file_path=file,
|
|
||||||
model_name=defaults["model"],
|
|
||||||
compute_type=defaults["compute_type"],
|
|
||||||
language=defaults["language"]
|
|
||||||
if defaults["language"] != "auto"
|
|
||||||
else None,
|
|
||||||
on_segment=on_segment if verbose else None,
|
on_segment=on_segment if verbose else None,
|
||||||
on_status=status.update
|
on_status=status.update
|
||||||
if not verbose
|
if not verbose
|
||||||
else lambda msg: console.print(msg),
|
else lambda msg: console.print(msg),
|
||||||
strict_device=strict,
|
|
||||||
cpu_threads=cpu_threads,
|
|
||||||
)
|
)
|
||||||
|
|
||||||
if tfr.actual_device != actual_device:
|
language_mode = _format_language_mode(request.language or "auto", result)
|
||||||
console.print(
|
|
||||||
f" {file.name}: fallback на {tfr.actual_device} при транскрипции",
|
|
||||||
style="yellow",
|
|
||||||
)
|
|
||||||
# Обновляем после возможного mid-stream fallback
|
|
||||||
model_obj = tfr.model
|
|
||||||
actual_device = tfr.actual_device
|
|
||||||
backend = tfr.backend
|
|
||||||
model_path = tfr.model_path
|
|
||||||
|
|
||||||
result = tfr.result
|
|
||||||
language_mode = _format_language_mode(defaults["language"], result)
|
|
||||||
speaker_transcript = None
|
speaker_transcript = None
|
||||||
diarization_warning = None
|
diarization_warning = None
|
||||||
file_degraded = False
|
file_degraded = False
|
||||||
@@ -718,13 +633,11 @@ def _run_batch(
|
|||||||
message += "; диаризация не запускалась"
|
message += "; диаризация не запускалась"
|
||||||
console.print(message, style="yellow")
|
console.print(message, style="yellow")
|
||||||
|
|
||||||
device_info = _format_device_info(result.device_used)
|
|
||||||
|
|
||||||
content = format_transcript(
|
content = format_transcript(
|
||||||
result=result,
|
result=result,
|
||||||
source_filename=file.name,
|
source_filename=file.name,
|
||||||
model_name=defaults["model"],
|
model_name=info.model,
|
||||||
device_info=device_info,
|
device_info=info.description,
|
||||||
language_mode=language_mode,
|
language_mode=language_mode,
|
||||||
speaker_transcript=speaker_transcript,
|
speaker_transcript=speaker_transcript,
|
||||||
diarization_warning=diarization_warning,
|
diarization_warning=diarization_warning,
|
||||||
@@ -743,6 +656,7 @@ def _run_batch(
|
|||||||
except KeyboardInterrupt:
|
except KeyboardInterrupt:
|
||||||
raise
|
raise
|
||||||
except Exception as exc:
|
except Exception as exc:
|
||||||
|
_print_cuda_hint(exc, request.device)
|
||||||
if verbose:
|
if verbose:
|
||||||
console.print_exception()
|
console.print_exception()
|
||||||
else:
|
else:
|
||||||
|
|||||||
@@ -3,14 +3,56 @@
|
|||||||
import tomllib
|
import tomllib
|
||||||
import warnings
|
import warnings
|
||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
|
from typing import TypedDict, TypeVar, cast
|
||||||
|
|
||||||
HARDCODED_DEFAULTS: dict[str, str] = {
|
type ConfigValue = str | bool
|
||||||
|
_T = TypeVar("_T")
|
||||||
|
|
||||||
|
|
||||||
|
class ConfigValues(TypedDict, total=False):
|
||||||
|
"""Проверенные значения из TOML-конфига."""
|
||||||
|
|
||||||
|
model: str
|
||||||
|
language: str
|
||||||
|
device: str
|
||||||
|
compute_type: str
|
||||||
|
diarize: bool
|
||||||
|
|
||||||
|
|
||||||
|
class CliValues(TypedDict, total=False):
|
||||||
|
"""Явные значения CLI до разрешения каскада."""
|
||||||
|
|
||||||
|
model: str | None
|
||||||
|
language: str | None
|
||||||
|
device: str | None
|
||||||
|
compute_type: str | None
|
||||||
|
diarize: bool | None
|
||||||
|
|
||||||
|
|
||||||
|
class ResolvedConfig(TypedDict):
|
||||||
|
"""Конфигурация после каскада CLI > TOML.
|
||||||
|
|
||||||
|
``model`` и ``compute_type`` остаются ``None``, если не заданы явно:
|
||||||
|
их умолчания зависят от устройства и разрешаются при загрузке модели.
|
||||||
|
"""
|
||||||
|
|
||||||
|
model: str | None
|
||||||
|
language: str
|
||||||
|
device: str
|
||||||
|
compute_type: str | None
|
||||||
|
diarize: bool
|
||||||
|
|
||||||
|
|
||||||
|
HARDCODED_DEFAULTS: ResolvedConfig = {
|
||||||
"model": "medium",
|
"model": "medium",
|
||||||
"language": "ru",
|
"language": "ru",
|
||||||
"device": "auto",
|
"device": "auto",
|
||||||
"compute_type": "float32",
|
"compute_type": "float32",
|
||||||
|
"diarize": False,
|
||||||
}
|
}
|
||||||
|
|
||||||
|
# Умолчания по устройству; HARDCODED_DEFAULTS — последний резерв для
|
||||||
|
# устройств вне таблицы.
|
||||||
DEVICE_DEFAULTS: dict[str, dict[str, str]] = {
|
DEVICE_DEFAULTS: dict[str, dict[str, str]] = {
|
||||||
"cuda": {"model": "medium", "compute_type": "float16"},
|
"cuda": {"model": "medium", "compute_type": "float16"},
|
||||||
"cpu": {"model": "medium", "compute_type": "float32"},
|
"cpu": {"model": "medium", "compute_type": "float32"},
|
||||||
@@ -46,7 +88,7 @@ def find_config_file() -> Path | None:
|
|||||||
return None
|
return None
|
||||||
|
|
||||||
|
|
||||||
def load_config(path: Path | None = None) -> dict[str, str]:
|
def load_config(path: Path | None = None) -> ConfigValues:
|
||||||
"""Загружает и валидирует TOML-конфиг.
|
"""Загружает и валидирует TOML-конфиг.
|
||||||
|
|
||||||
Неизвестные ключи вызывают предупреждение (а не ошибку) для forward
|
Неизвестные ключи вызывают предупреждение (а не ошибку) для forward
|
||||||
@@ -70,11 +112,19 @@ def load_config(path: Path | None = None) -> dict[str, str]:
|
|||||||
stacklevel=2,
|
stacklevel=2,
|
||||||
)
|
)
|
||||||
|
|
||||||
result: dict[str, str] = {}
|
result: dict[str, ConfigValue] = {}
|
||||||
for key in _VALID_KEYS:
|
for key in _VALID_KEYS:
|
||||||
if key not in data:
|
if key not in data:
|
||||||
continue
|
continue
|
||||||
value = data[key]
|
value = data[key]
|
||||||
|
if key == "diarize":
|
||||||
|
if not isinstance(value, bool):
|
||||||
|
raise ValueError(
|
||||||
|
f"Значение 'diarize' в {path} должно быть логическим, "
|
||||||
|
f"получено {type(value).__name__}"
|
||||||
|
)
|
||||||
|
result[key] = value
|
||||||
|
continue
|
||||||
if not isinstance(value, str):
|
if not isinstance(value, str):
|
||||||
raise ValueError(
|
raise ValueError(
|
||||||
f"Значение '{key}' в {path} должно быть строкой, получено {type(value).__name__}"
|
f"Значение '{key}' в {path} должно быть строкой, получено {type(value).__name__}"
|
||||||
@@ -88,40 +138,41 @@ def load_config(path: Path | None = None) -> dict[str, str]:
|
|||||||
raise ValueError(f"Значение 'language' в {path} не может быть пустым")
|
raise ValueError(f"Значение 'language' в {path} не может быть пустым")
|
||||||
result[key] = value
|
result[key] = value
|
||||||
|
|
||||||
return result
|
return cast(ConfigValues, result)
|
||||||
|
|
||||||
|
|
||||||
def resolve_defaults(
|
def resolve_defaults(cli_values: CliValues, config: ConfigValues) -> ResolvedConfig:
|
||||||
cli_values: dict[str, str | None], config: dict[str, str]
|
"""Каскад приоритетов: CLI > конфиг-файл > hardcoded-дефолты.
|
||||||
) -> dict[str, str]:
|
|
||||||
"""Каскад приоритетов: CLI > конфиг-файл > hardcoded-дефолты."""
|
Device-aware ключи (model, compute_type) без явного значения остаются None.
|
||||||
result: dict[str, str] = {}
|
"""
|
||||||
for key in HARDCODED_DEFAULTS:
|
return {
|
||||||
cli_val = cli_values.get(key)
|
"model": _resolve_value(cli_values.get("model"), config.get("model"), None),
|
||||||
if cli_val is not None:
|
"language": _resolve_value(
|
||||||
result[key] = cli_val
|
cli_values.get("language"),
|
||||||
elif key in config:
|
config.get("language"),
|
||||||
result[key] = config[key]
|
HARDCODED_DEFAULTS["language"],
|
||||||
else:
|
),
|
||||||
result[key] = HARDCODED_DEFAULTS[key]
|
"device": _resolve_value(
|
||||||
return result
|
cli_values.get("device"),
|
||||||
|
config.get("device"),
|
||||||
|
HARDCODED_DEFAULTS["device"],
|
||||||
|
),
|
||||||
|
"compute_type": _resolve_value(
|
||||||
|
cli_values.get("compute_type"), config.get("compute_type"), None
|
||||||
|
),
|
||||||
|
"diarize": _resolve_value(
|
||||||
|
cli_values.get("diarize"),
|
||||||
|
config.get("diarize"),
|
||||||
|
HARDCODED_DEFAULTS["diarize"],
|
||||||
|
),
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
def apply_device_defaults(
|
def _resolve_value(cli_value: _T | None, config_value: _T | None, default: _T) -> _T:
|
||||||
defaults: dict[str, str],
|
"""Выбирает первое явно заданное значение каскада."""
|
||||||
resolved_device: str,
|
if cli_value is not None:
|
||||||
cli_values: dict[str, str | None],
|
return cli_value
|
||||||
config: dict[str, str],
|
if config_value is not None:
|
||||||
) -> dict[str, str]:
|
return config_value
|
||||||
"""Применяет device-aware дефолты для model и compute_type,
|
return default
|
||||||
если они не были явно заданы через CLI или конфиг."""
|
|
||||||
device_defs = DEVICE_DEFAULTS.get(resolved_device, {})
|
|
||||||
if not device_defs:
|
|
||||||
return defaults
|
|
||||||
|
|
||||||
result = dict(defaults)
|
|
||||||
for key in ("model", "compute_type"):
|
|
||||||
if cli_values.get(key) is None and key not in config:
|
|
||||||
if key in device_defs:
|
|
||||||
result[key] = device_defs[key]
|
|
||||||
return result
|
|
||||||
File diff suppressed because it is too large.
Load diff
File diff suppressed because it is too large.
Load diff
@@ -2,170 +2,245 @@
|
|||||||
|
|
||||||
import warnings
|
import warnings
|
||||||
from collections.abc import Callable
|
from collections.abc import Callable
|
||||||
|
from dataclasses import dataclass, field
|
||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
from typing import Any
|
from typing import Any
|
||||||
|
|
||||||
from local_transcriber.backends import get_backend
|
from local_transcriber.backends import get_backend
|
||||||
|
from local_transcriber.config import DEVICE_DEFAULTS, HARDCODED_DEFAULTS
|
||||||
|
|
||||||
# Re-export из types.py для обратной совместимости
|
# Re-export из types.py для обратной совместимости
|
||||||
from local_transcriber.types import ( # noqa: F401
|
from local_transcriber.types import (
|
||||||
Segment,
|
Segment,
|
||||||
TranscribeFileResult,
|
|
||||||
TranscribeResult,
|
TranscribeResult,
|
||||||
WordTimestampsUnavailableError,
|
WordTimestampsUnavailableError,
|
||||||
)
|
)
|
||||||
|
from local_transcriber.utils import detect_device, get_gpu_name, get_intel_gpu_name
|
||||||
|
|
||||||
|
|
||||||
def load_model(
|
@dataclass(frozen=True)
|
||||||
model_name: str,
|
class ExecutionRequest:
|
||||||
device: str,
|
"""Запрошенные настройки запуска до разрешения умолчаний.
|
||||||
compute_type: str,
|
|
||||||
on_status: Callable[[str], None] | None = None,
|
|
||||||
strict_device: bool = False,
|
|
||||||
compute_type_explicit: bool = False,
|
|
||||||
cpu_threads: int = 0,
|
|
||||||
) -> tuple[Any, str, Any, str]:
|
|
||||||
"""Загружает модель: ensure + create с fallback.
|
|
||||||
|
|
||||||
Возвращает (model, actual_device, backend, model_path).
|
``None`` в model/compute_type означает device-aware умолчание;
|
||||||
compute_type_explicit: True если пользователь явно указал --compute-type.
|
``strict_device=None`` — strict для любого явного device, кроме ``auto``.
|
||||||
cpu_threads: число потоков для CPU inference (0 = дефолт библиотеки).
|
|
||||||
"""
|
"""
|
||||||
backend = get_backend(device, compute_type_explicit=compute_type_explicit)
|
|
||||||
actual_device = device
|
|
||||||
|
|
||||||
model_path = backend.ensure_model_available(model_name, compute_type, on_status)
|
device: str = "auto"
|
||||||
|
model: str | None = None
|
||||||
|
compute_type: str | None = None
|
||||||
|
language: str | None = None
|
||||||
|
cpu_threads: int = 0
|
||||||
|
strict_device: bool | None = None
|
||||||
|
require_word_timestamps: bool = False
|
||||||
|
|
||||||
try:
|
|
||||||
_notify_status(on_status, f"Инициализирую модель на {device}...")
|
@dataclass(frozen=True)
|
||||||
model = backend.create_model(
|
class ExecutionInfo:
|
||||||
model_path, device, compute_type, cpu_threads=cpu_threads
|
"""Сведения о выполнении: что запрошено, что выбрано и чем выполняется."""
|
||||||
|
|
||||||
|
requested_device: str
|
||||||
|
resolved_device: str # выбор до загрузки; отличается от device после fallback
|
||||||
|
device: str
|
||||||
|
engine: str
|
||||||
|
model: str
|
||||||
|
compute_type: str
|
||||||
|
cpu_threads: int
|
||||||
|
word_timestamps_available: bool
|
||||||
|
description: str # строка исполнения для шапки транскрипта
|
||||||
|
runtime: dict[str, str] = field(default_factory=dict)
|
||||||
|
|
||||||
|
|
||||||
|
class Transcriber:
|
||||||
|
"""Module выполнения распознавания на один запуск.
|
||||||
|
|
||||||
|
Владеет загруженной моделью, adapter'ом, фактическими настройками
|
||||||
|
и разрешёнными переходами исполнения. Caller передаёт файлы по одному
|
||||||
|
и получает результат; состояние между файлами не переносит.
|
||||||
|
"""
|
||||||
|
|
||||||
|
def __init__(self, request: ExecutionRequest) -> None:
|
||||||
|
self._request = request
|
||||||
|
self._strict = (
|
||||||
|
request.strict_device
|
||||||
|
if request.strict_device is not None
|
||||||
|
else request.device != "auto"
|
||||||
)
|
)
|
||||||
# Резолвим actual_device по реальному OpenVINO device
|
self._compute_type_explicit = request.compute_type is not None
|
||||||
ov_dev = getattr(backend, "actual_ov_device", None)
|
self._resolved_device = detect_device(request.device)
|
||||||
if ov_dev == "GPU" and actual_device != "openvino-gpu":
|
self._device = self._resolved_device
|
||||||
actual_device = "openvino-gpu"
|
self._backend: Any = None
|
||||||
elif (
|
self._model: Any = None
|
||||||
ov_dev == "CPU"
|
self._info: ExecutionInfo | None = None
|
||||||
and actual_device.startswith("openvino")
|
|
||||||
and actual_device != "openvino-cpu"
|
@property
|
||||||
):
|
def execution(self) -> ExecutionInfo:
|
||||||
actual_device = "openvino-cpu"
|
"""Текущие сведения о выполнении; доступны после prepare()."""
|
||||||
except (RuntimeError, ValueError) as exc:
|
if self._info is None:
|
||||||
if device != "cpu" and _is_backend_error(exc, device):
|
raise RuntimeError("Модель ещё не подготовлена: вызовите prepare()")
|
||||||
if strict_device:
|
return self._info
|
||||||
|
|
||||||
|
def prepare(self, on_status: Callable[[str], None] | None = None) -> ExecutionInfo:
|
||||||
|
"""Загружает модель и проверяет возможности до первого файла. Идемпотентно."""
|
||||||
|
if self._info is not None:
|
||||||
|
return self._info
|
||||||
|
try:
|
||||||
|
info = self._load(self._device, on_status)
|
||||||
|
except (RuntimeError, ValueError) as exc:
|
||||||
|
if not self._may_fall_back(exc):
|
||||||
raise
|
raise
|
||||||
warnings.warn(
|
warnings.warn(
|
||||||
f"Не удалось загрузить модель на {device}: {exc}. Переключение на CPU.",
|
f"Не удалось загрузить модель на {self._device}: {exc}. "
|
||||||
|
"Переключение на CPU.",
|
||||||
stacklevel=2,
|
stacklevel=2,
|
||||||
)
|
)
|
||||||
actual_device = "cpu"
|
info = self._load("cpu", on_status)
|
||||||
backend = get_backend("cpu")
|
if self._request.require_word_timestamps and not info.word_timestamps_available:
|
||||||
model_path = backend.ensure_model_available(
|
raise ValueError(
|
||||||
model_name, compute_type, on_status
|
"Выбранный движок или модель не поддерживает пословные таймкоды"
|
||||||
)
|
)
|
||||||
_notify_status(on_status, "Инициализирую модель на cpu...")
|
self._info = info
|
||||||
model = backend.create_model(
|
return info
|
||||||
model_path, "cpu", compute_type, cpu_threads=cpu_threads
|
|
||||||
)
|
|
||||||
else:
|
|
||||||
raise
|
|
||||||
|
|
||||||
return model, actual_device, backend, model_path
|
def transcribe(
|
||||||
|
self,
|
||||||
|
file_path: Path,
|
||||||
def _transcribe_file(
|
on_segment: Callable[[Segment], None] | None = None,
|
||||||
model: Any,
|
on_status: Callable[[str], None] | None = None,
|
||||||
actual_device: str,
|
) -> TranscribeResult:
|
||||||
backend: Any,
|
"""Транскрибирует один файл; при разрешённом fallback перезагружает модель."""
|
||||||
model_path: str,
|
self.prepare(on_status)
|
||||||
file_path: Path,
|
lang_arg = self._request.language or None
|
||||||
model_name: str,
|
if lang_arg == "auto":
|
||||||
compute_type: str,
|
lang_arg = None
|
||||||
language: str | None = None,
|
try:
|
||||||
on_segment: Callable[[Segment], None] | None = None,
|
result = self._recognize(file_path, lang_arg, on_segment, on_status)
|
||||||
on_status: Callable[[str], None] | None = None,
|
except (RuntimeError, ValueError) as exc:
|
||||||
strict_device: bool = False,
|
if not self._may_fall_back(exc):
|
||||||
cpu_threads: int = 0,
|
|
||||||
) -> TranscribeFileResult:
|
|
||||||
"""Транскрибирует один файл. При mid-stream fallback перезагружает модель."""
|
|
||||||
lang_arg = language if language and language != "auto" else None
|
|
||||||
|
|
||||||
try:
|
|
||||||
_notify_status(on_status, "Транскрибирую...")
|
|
||||||
result = backend.transcribe(model, file_path, lang_arg, on_segment, on_status)
|
|
||||||
result.device_used = actual_device
|
|
||||||
except (RuntimeError, ValueError) as exc:
|
|
||||||
if actual_device != "cpu" and _is_backend_error(exc, actual_device):
|
|
||||||
if strict_device:
|
|
||||||
raise
|
raise
|
||||||
warnings.warn(
|
warnings.warn(
|
||||||
f"Ошибка при транскрипции на {actual_device}: {exc}. "
|
f"Ошибка при транскрипции на {self._device}: {exc}. "
|
||||||
"Переключение на CPU и повтор.",
|
"Переключение на CPU и повтор.",
|
||||||
stacklevel=2,
|
stacklevel=2,
|
||||||
)
|
)
|
||||||
actual_device = "cpu"
|
self._info = self._load("cpu", on_status)
|
||||||
backend = get_backend("cpu")
|
result = self._recognize(file_path, lang_arg, on_segment, on_status)
|
||||||
model_path = backend.ensure_model_available(
|
return result
|
||||||
model_name, compute_type, on_status
|
|
||||||
)
|
|
||||||
_notify_status(on_status, "Инициализирую модель на cpu...")
|
|
||||||
model = backend.create_model(
|
|
||||||
model_path, "cpu", compute_type, cpu_threads=cpu_threads
|
|
||||||
)
|
|
||||||
_notify_status(on_status, "Транскрибирую...")
|
|
||||||
result = backend.transcribe(
|
|
||||||
model, file_path, lang_arg, on_segment, on_status
|
|
||||||
)
|
|
||||||
result.device_used = actual_device
|
|
||||||
else:
|
|
||||||
raise
|
|
||||||
|
|
||||||
return TranscribeFileResult(
|
def _recognize(
|
||||||
result=result,
|
self,
|
||||||
model=model,
|
file_path: Path,
|
||||||
actual_device=actual_device,
|
language: str | None,
|
||||||
backend=backend,
|
on_segment: Callable[[Segment], None] | None,
|
||||||
model_path=model_path,
|
on_status: Callable[[str], None] | None,
|
||||||
)
|
) -> TranscribeResult:
|
||||||
|
_notify_status(on_status, "Транскрибирую...")
|
||||||
|
result = self._backend.transcribe(
|
||||||
|
self._model, file_path, language, on_segment, on_status
|
||||||
|
)
|
||||||
|
result.device_used = self._device
|
||||||
|
return result
|
||||||
|
|
||||||
|
def _may_fall_back(self, exc: BaseException) -> bool:
|
||||||
|
"""Разрешённый переход: не strict, не CPU и ошибка самого движка."""
|
||||||
|
if self._strict or self._device == "cpu":
|
||||||
|
return False
|
||||||
|
return _is_backend_error(exc, self._device)
|
||||||
|
|
||||||
|
def _load(
|
||||||
|
self, device: str, on_status: Callable[[str], None] | None
|
||||||
|
) -> ExecutionInfo:
|
||||||
|
"""Загружает модель на device; неявные model/compute_type берутся из его умолчаний."""
|
||||||
|
defaults = DEVICE_DEFAULTS.get(device, {})
|
||||||
|
model_name = self._request.model or defaults.get(
|
||||||
|
"model", HARDCODED_DEFAULTS["model"]
|
||||||
|
)
|
||||||
|
compute_type = self._request.compute_type or defaults.get(
|
||||||
|
"compute_type", HARDCODED_DEFAULTS["compute_type"]
|
||||||
|
)
|
||||||
|
backend = get_backend(device, compute_type_explicit=self._compute_type_explicit)
|
||||||
|
model_path = backend.ensure_model_available(model_name, compute_type, on_status)
|
||||||
|
_notify_status(on_status, f"Инициализирую модель на {device}...")
|
||||||
|
model = backend.create_model(
|
||||||
|
model_path,
|
||||||
|
device,
|
||||||
|
compute_type,
|
||||||
|
cpu_threads=self._request.cpu_threads,
|
||||||
|
)
|
||||||
|
self._backend = backend
|
||||||
|
self._model = model
|
||||||
|
self._device = _refine_openvino_device(device, backend)
|
||||||
|
return ExecutionInfo(
|
||||||
|
requested_device=self._request.device,
|
||||||
|
resolved_device=self._resolved_device,
|
||||||
|
device=self._device,
|
||||||
|
engine=backend.engine,
|
||||||
|
model=model_name,
|
||||||
|
compute_type=getattr(backend, "actual_compute_type", None) or compute_type,
|
||||||
|
cpu_threads=self._request.cpu_threads,
|
||||||
|
word_timestamps_available=bool(backend.word_timestamps_available),
|
||||||
|
description=_describe_device(self._device),
|
||||||
|
runtime=_collect_runtime_info(backend),
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
def _collect_runtime_info(backend: Any) -> dict[str, str]:
|
||||||
|
"""Диагностика не должна ронять запуск: сбой попадает в сведения строкой."""
|
||||||
|
try:
|
||||||
|
return dict(backend.runtime_info())
|
||||||
|
except Exception as exc: # noqa: BLE001
|
||||||
|
return {"diagnostics": f"недоступно ({exc})"}
|
||||||
|
|
||||||
|
|
||||||
|
def _refine_openvino_device(device: str, backend: Any) -> str:
|
||||||
|
"""Заменяет запрошенный openvino-* на устройство, которое реально выбрал OpenVINO."""
|
||||||
|
ov_dev = getattr(backend, "actual_ov_device", None)
|
||||||
|
if ov_dev == "GPU" and device != "openvino-gpu":
|
||||||
|
return "openvino-gpu"
|
||||||
|
if ov_dev == "CPU" and device.startswith("openvino") and device != "openvino-cpu":
|
||||||
|
return "openvino-cpu"
|
||||||
|
return device
|
||||||
|
|
||||||
|
|
||||||
|
def _describe_device(device: str) -> str:
|
||||||
|
"""Строка исполнения для шапки транскрипта; GPU называется только по данным драйвера."""
|
||||||
|
if device == "cuda":
|
||||||
|
return f"CUDA ({get_gpu_name() or 'Unknown GPU'})"
|
||||||
|
if device == "openvino-gpu":
|
||||||
|
return f"OpenVINO ({get_intel_gpu_name() or 'Intel GPU'})"
|
||||||
|
if device == "openvino-cpu":
|
||||||
|
return "OpenVINO (CPU)"
|
||||||
|
if device == "onnx":
|
||||||
|
return "ONNX (CPU)"
|
||||||
|
return "CPU"
|
||||||
|
|
||||||
|
|
||||||
def transcribe(
|
def transcribe(
|
||||||
file_path: Path,
|
file_path: Path,
|
||||||
model_name: str = "large-v3",
|
model_name: str | None = None,
|
||||||
device: str = "auto",
|
device: str = "auto",
|
||||||
compute_type: str = "int8",
|
compute_type: str | None = None,
|
||||||
language: str | None = None,
|
language: str | None = None,
|
||||||
on_segment: Callable[[Segment], None] | None = None,
|
on_segment: Callable[[Segment], None] | None = None,
|
||||||
on_status: Callable[[str], None] | None = None,
|
on_status: Callable[[str], None] | None = None,
|
||||||
strict_device: bool = False,
|
strict_device: bool = False,
|
||||||
cpu_threads: int = 0,
|
cpu_threads: int = 0,
|
||||||
) -> TranscribeResult:
|
) -> TranscribeResult:
|
||||||
"""High-level API: загрузка модели + транскрипция за один вызов."""
|
"""Публичный путь одного файла через тот же module выполнения, что и CLI.
|
||||||
model, actual_device, backend, model_path = load_model(
|
|
||||||
model_name,
|
``None`` в model_name/compute_type берёт умолчания выбранного исполнения.
|
||||||
device,
|
"""
|
||||||
compute_type,
|
run = Transcriber(
|
||||||
on_status,
|
ExecutionRequest(
|
||||||
strict_device,
|
device=device,
|
||||||
compute_type_explicit=True, # Python API — caller explicitly chose compute_type
|
model=model_name,
|
||||||
cpu_threads=cpu_threads,
|
compute_type=compute_type,
|
||||||
|
language=language,
|
||||||
|
cpu_threads=cpu_threads,
|
||||||
|
strict_device=strict_device,
|
||||||
|
)
|
||||||
)
|
)
|
||||||
tfr = _transcribe_file(
|
return run.transcribe(file_path, on_segment, on_status)
|
||||||
model,
|
|
||||||
actual_device,
|
|
||||||
backend,
|
|
||||||
model_path,
|
|
||||||
file_path,
|
|
||||||
model_name,
|
|
||||||
compute_type,
|
|
||||||
language,
|
|
||||||
on_segment,
|
|
||||||
on_status,
|
|
||||||
strict_device,
|
|
||||||
cpu_threads=cpu_threads,
|
|
||||||
)
|
|
||||||
return tfr.result
|
|
||||||
|
|
||||||
|
|
||||||
def ensure_model_available(
|
def ensure_model_available(
|
||||||
@@ -175,8 +250,6 @@ def ensure_model_available(
|
|||||||
on_status: Callable[[str], None] | None = None,
|
on_status: Callable[[str], None] | None = None,
|
||||||
) -> str:
|
) -> str:
|
||||||
"""Публичный helper: гарантирует наличие модели для указанного бэкенда."""
|
"""Публичный helper: гарантирует наличие модели для указанного бэкенда."""
|
||||||
from local_transcriber.config import DEVICE_DEFAULTS, HARDCODED_DEFAULTS
|
|
||||||
|
|
||||||
if compute_type is None:
|
if compute_type is None:
|
||||||
device_defs = DEVICE_DEFAULTS.get(device, {})
|
device_defs = DEVICE_DEFAULTS.get(device, {})
|
||||||
compute_type = device_defs.get(
|
compute_type = device_defs.get(
|
||||||
@@ -190,11 +263,60 @@ def ensure_model_available(
|
|||||||
|
|
||||||
|
|
||||||
def _is_cuda_error(exc: BaseException) -> bool:
|
def _is_cuda_error(exc: BaseException) -> bool:
|
||||||
"""Проверка CUDA ошибок — используется в cli.py для Windows-диагностики."""
|
"""Проверяет, относится ли ошибка к CUDA-бэкенду."""
|
||||||
msg = str(exc).lower()
|
msg = str(exc).lower()
|
||||||
return any(k in msg for k in ("cuda", "cublas", "cudnn", "out of memory"))
|
return any(k in msg for k in ("cuda", "cublas", "cudnn", "out of memory"))
|
||||||
|
|
||||||
|
|
||||||
|
def cuda_error_hint(exc: BaseException, *, device: str | None = None) -> str | None:
|
||||||
|
"""Подсказывает действие только для распознанной причины CUDA-ошибки."""
|
||||||
|
msg = str(exc).lower()
|
||||||
|
if device == "cuda" and "requested " in msg and "compute type" in msg and (
|
||||||
|
"do not support efficient" in msg
|
||||||
|
):
|
||||||
|
return (
|
||||||
|
"Тип вычислений несовместим с выбранным GPU/CUDA runtime. "
|
||||||
|
"Установка extra не добавит аппаратную поддержку. Выберите "
|
||||||
|
"поддерживаемый --compute-type или --device onnx / --device cpu."
|
||||||
|
)
|
||||||
|
if any(k in msg for k in (
|
||||||
|
"no kernel image", "invalid device function", "unsupported gpu",
|
||||||
|
"cublas_status_arch_mismatch", "cuda_error_no_binary_for_gpu",
|
||||||
|
)):
|
||||||
|
return (
|
||||||
|
"GPU несовместим с выбранным CUDA runtime. Установка extra не исправит "
|
||||||
|
"аппаратную несовместимость. Используйте --device onnx или --device cpu."
|
||||||
|
)
|
||||||
|
if any(k in msg for k in (
|
||||||
|
"driver version is insufficient", "no cuda-capable device",
|
||||||
|
"cuda error: no device", "cuda_error_no_device", "libcuda.so", "nvcuda.dll",
|
||||||
|
)):
|
||||||
|
return (
|
||||||
|
"CUDA не видит совместимого GPU/драйвера. Проверьте драйвер NVIDIA "
|
||||||
|
"и совместимость устройства с runtime. Extra не устанавливает драйвер."
|
||||||
|
)
|
||||||
|
if any(k in msg for k in ("cublas", "cudnn", "cudart")) and any(
|
||||||
|
k in msg for k in (
|
||||||
|
"not found", "cannot be loaded", "could not load", "could not find",
|
||||||
|
"cannot open shared object", "no such file", "winerror 126",
|
||||||
|
)
|
||||||
|
):
|
||||||
|
return (
|
||||||
|
"Не найдены CUDA-библиотеки или их зависимости. Подключите extra cuda "
|
||||||
|
"в окружении приложения:\n"
|
||||||
|
" Из клона: uv tool install --force '.[cuda]'\n"
|
||||||
|
" Для разработки: uv sync --extra cuda\n"
|
||||||
|
"При установке из Git используйте инструкцию CUDA в README. "
|
||||||
|
"На Windows также нужен Visual C++ Runtime x64."
|
||||||
|
)
|
||||||
|
if "out of memory" in msg and any(k in msg for k in ("cuda", "cublas", "cudnn")):
|
||||||
|
return (
|
||||||
|
"Недостаточно памяти для выбранного CUDA-пути. Выберите меньшую модель "
|
||||||
|
"или явно используйте --device onnx / --device cpu."
|
||||||
|
)
|
||||||
|
return None
|
||||||
|
|
||||||
|
|
||||||
def _is_backend_error(exc: BaseException, device: str) -> bool:
|
def _is_backend_error(exc: BaseException, device: str) -> bool:
|
||||||
"""Определяет, связана ли ошибка с конкретным бэкендом (а не с пользовательскими данными)."""
|
"""Определяет, связана ли ошибка с конкретным бэкендом (а не с пользовательскими данными)."""
|
||||||
if isinstance(exc, WordTimestampsUnavailableError):
|
if isinstance(exc, WordTimestampsUnavailableError):
|
||||||
|
|||||||
@@ -2,7 +2,6 @@
|
|||||||
|
|
||||||
from collections.abc import Callable
|
from collections.abc import Callable
|
||||||
from dataclasses import dataclass, field
|
from dataclasses import dataclass, field
|
||||||
from typing import Any
|
|
||||||
|
|
||||||
# Единый признак «язык неизвестен» для всех бэкендов
|
# Единый признак «язык неизвестен» для всех бэкендов
|
||||||
UNKNOWN_LANGUAGE = "unknown"
|
UNKNOWN_LANGUAGE = "unknown"
|
||||||
@@ -83,14 +82,5 @@ class TranscribeResult:
|
|||||||
words: list[Word] = field(default_factory=list)
|
words: list[Word] = field(default_factory=list)
|
||||||
|
|
||||||
|
|
||||||
@dataclass
|
|
||||||
class TranscribeFileResult:
|
|
||||||
result: TranscribeResult
|
|
||||||
model: Any # backend-specific model handle
|
|
||||||
actual_device: str
|
|
||||||
backend: Any = None # backend instance (для переиспользования в батче)
|
|
||||||
model_path: str = "" # путь к модели (меняется при cross-backend fallback)
|
|
||||||
|
|
||||||
|
|
||||||
StatusCallback = Callable[[str], None] | None
|
StatusCallback = Callable[[str], None] | None
|
||||||
SegmentCallback = Callable[[Segment], None] | None
|
SegmentCallback = Callable[[Segment], None] | None
|
||||||
@@ -2,9 +2,9 @@
|
|||||||
|
|
||||||
import glob
|
import glob
|
||||||
import platform
|
import platform
|
||||||
import shutil
|
|
||||||
import subprocess
|
import subprocess
|
||||||
import warnings
|
import warnings
|
||||||
|
from importlib.metadata import PackageNotFoundError, version
|
||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
|
|
||||||
SUPPORTED_EXTENSIONS = {
|
SUPPORTED_EXTENSIONS = {
|
||||||
@@ -16,15 +16,13 @@ SUPPORTED_EXTENSIONS = {
|
|||||||
def detect_device(requested: str = "auto") -> str:
|
def detect_device(requested: str = "auto") -> str:
|
||||||
"""Определяет устройство для вычислений.
|
"""Определяет устройство для вычислений.
|
||||||
|
|
||||||
При ``requested="auto"`` выбирает CUDA при наличии ``nvidia-smi``,
|
При ``requested="auto"`` всегда выбирает ONNX на CPU.
|
||||||
иначе ONNX на CPU.
|
CUDA включается только явным выбором пользователя.
|
||||||
``"openvino"`` — алиас для авто-детекта внутри OpenVINO
|
``"openvino"`` — алиас для авто-детекта внутри OpenVINO
|
||||||
(GPU если доступен, иначе CPU).
|
(GPU если доступен, иначе CPU).
|
||||||
Возвращает всегда конкретное значение (не абстрактный ``"openvino"``).
|
Возвращает всегда конкретное значение (не абстрактный ``"openvino"``).
|
||||||
"""
|
"""
|
||||||
if requested == "auto":
|
if requested == "auto":
|
||||||
if shutil.which("nvidia-smi") is not None:
|
|
||||||
return "cuda"
|
|
||||||
return "onnx"
|
return "onnx"
|
||||||
if requested == "openvino":
|
if requested == "openvino":
|
||||||
if _is_openvino_gpu_available():
|
if _is_openvino_gpu_available():
|
||||||
@@ -144,3 +142,11 @@ def expand_globs(paths: list[Path]) -> list[Path]:
|
|||||||
def has_existing_transcript(input_path: Path) -> bool:
|
def has_existing_transcript(input_path: Path) -> bool:
|
||||||
"""Проверяет наличие транскрипта для skip-логики батч-режима."""
|
"""Проверяет наличие транскрипта для skip-логики батч-режима."""
|
||||||
return build_output_path(input_path).exists()
|
return build_output_path(input_path).exists()
|
||||||
|
|
||||||
|
|
||||||
|
def package_version(name: str) -> str:
|
||||||
|
"""Версия установленного пакета для диагностики; отсутствие не считается ошибкой."""
|
||||||
|
try:
|
||||||
|
return version(name)
|
||||||
|
except PackageNotFoundError:
|
||||||
|
return "не установлен"
|
||||||
@@ -7,6 +7,25 @@ from local_transcriber.backends.faster_whisper import FasterWhisperBackend
|
|||||||
from local_transcriber.types import Word
|
from local_transcriber.types import Word
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize("device", ["cpu", "cuda"])
|
||||||
|
def test_bootstrap_only_for_explicit_cuda(monkeypatch, device):
|
||||||
|
"""CPU-модель не загружает optional CUDA-библиотеки."""
|
||||||
|
bootstrap = MagicMock()
|
||||||
|
model_factory = MagicMock()
|
||||||
|
monkeypatch.setattr(
|
||||||
|
"local_transcriber.backends.faster_whisper.ensure_cublas_loadable", bootstrap
|
||||||
|
)
|
||||||
|
monkeypatch.setattr("faster_whisper.WhisperModel", model_factory)
|
||||||
|
|
||||||
|
model = FasterWhisperBackend().create_model("/model", device, "float32")
|
||||||
|
|
||||||
|
assert model is model_factory.return_value
|
||||||
|
assert bootstrap.call_count == (1 if device == "cuda" else 0)
|
||||||
|
model_factory.assert_called_once_with(
|
||||||
|
"/model", device=device, compute_type="float32", cpu_threads=0
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
def test_transcribe_returns_canonical_words(tmp_path):
|
def test_transcribe_returns_canonical_words(tmp_path):
|
||||||
audio = tmp_path / "audio.wav"
|
audio = tmp_path / "audio.wav"
|
||||||
raw_word = SimpleNamespace(start=0.2, end=0.7, word=" Привет")
|
raw_word = SimpleNamespace(start=0.2, end=0.7, word=" Привет")
|
||||||
@@ -64,3 +83,18 @@ def test_transcribe_rejects_one_nonempty_segment_without_word_timestamps(tmp_pat
|
|||||||
|
|
||||||
with pytest.raises(RuntimeError, match="пословные таймкоды"):
|
with pytest.raises(RuntimeError, match="пословные таймкоды"):
|
||||||
FasterWhisperBackend().transcribe(model, tmp_path / "audio.wav", "ru")
|
FasterWhisperBackend().transcribe(model, tmp_path / "audio.wav", "ru")
|
||||||
|
|
||||||
|
|
||||||
|
def test_runtime_info_reports_versions_and_cuda_devices(monkeypatch):
|
||||||
|
"""Диагностика называет версии runtime и число CUDA-устройств, не обещая ускорения."""
|
||||||
|
monkeypatch.setattr("ctranslate2.get_cuda_device_count", lambda: 0)
|
||||||
|
backend = FasterWhisperBackend()
|
||||||
|
backend.actual_compute_type = "float32"
|
||||||
|
|
||||||
|
info = backend.runtime_info()
|
||||||
|
|
||||||
|
assert info["ctranslate2"]
|
||||||
|
assert info["faster_whisper"]
|
||||||
|
assert info["cuda_devices"] == "0"
|
||||||
|
assert info["compute_type"] == "float32"
|
||||||
|
assert info["cpu_threads"] == "по умолчанию"
|
||||||
@@ -463,3 +463,21 @@ def test_validate_model_dir_requires_alignment_heads_for_word_timestamps(tmp_pat
|
|||||||
|
|
||||||
with pytest.raises(ValueError, match="alignment_heads"):
|
with pytest.raises(ValueError, match="alignment_heads"):
|
||||||
_validate_model_dir(tmp_path)
|
_validate_model_dir(tmp_path)
|
||||||
|
|
||||||
|
|
||||||
|
def test_runtime_info_reports_available_and_actual_devices(monkeypatch):
|
||||||
|
"""Диагностика показывает устройства OpenVINO и то, что выбрано фактически."""
|
||||||
|
core = MagicMock()
|
||||||
|
core.available_devices = ["CPU", "GPU"]
|
||||||
|
monkeypatch.setattr("openvino.Core", lambda: core)
|
||||||
|
backend = OpenVINOBackend(ov_device="openvino-gpu", compute_type_explicit=True)
|
||||||
|
backend.actual_ov_device = "GPU"
|
||||||
|
backend.actual_compute_type = "fp16"
|
||||||
|
|
||||||
|
info = backend.runtime_info()
|
||||||
|
|
||||||
|
assert info["openvino"]
|
||||||
|
assert info["available_devices"] == "CPU, GPU"
|
||||||
|
assert info["device"] == "GPU"
|
||||||
|
assert info["compute_type"] == "fp16"
|
||||||
|
assert "--threads не применяется" in info["threads"]
|
||||||
File diff suppressed because it is too large.
Load diff
+407
-873
File diff suppressed because it is too large.
Load diff
+34
-74
@@ -1,10 +1,8 @@
|
|||||||
from pathlib import Path
|
|
||||||
from unittest.mock import patch
|
from unittest.mock import patch
|
||||||
|
|
||||||
import pytest
|
import pytest
|
||||||
|
|
||||||
from local_transcriber.config import (
|
from local_transcriber.config import (
|
||||||
apply_device_defaults,
|
|
||||||
find_config_file,
|
find_config_file,
|
||||||
load_config,
|
load_config,
|
||||||
resolve_defaults,
|
resolve_defaults,
|
||||||
@@ -41,6 +39,23 @@ def test_load_config_valid(tmp_path):
|
|||||||
assert result == {"model": "small", "language": "ru"}
|
assert result == {"model": "small", "language": "ru"}
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize("value", [True, False])
|
||||||
|
def test_load_config_accepts_diarize_boolean(tmp_path, value):
|
||||||
|
config = tmp_path / "config.toml"
|
||||||
|
config.write_text(f"diarize = {str(value).lower()}\n")
|
||||||
|
|
||||||
|
assert load_config(config) == {"diarize": value}
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize("toml_value", ['"true"', "1"])
|
||||||
|
def test_load_config_rejects_non_boolean_diarize(tmp_path, toml_value):
|
||||||
|
config = tmp_path / "config.toml"
|
||||||
|
config.write_text(f"diarize = {toml_value}\n")
|
||||||
|
|
||||||
|
with pytest.raises(ValueError, match="должно быть логическим"):
|
||||||
|
load_config(config)
|
||||||
|
|
||||||
|
|
||||||
def test_load_config_malformed(tmp_path):
|
def test_load_config_malformed(tmp_path):
|
||||||
config = tmp_path / "config.toml"
|
config = tmp_path / "config.toml"
|
||||||
config.write_text("this is not valid toml [[[")
|
config.write_text("this is not valid toml [[[")
|
||||||
@@ -91,64 +106,33 @@ def test_resolve_defaults_config_wins():
|
|||||||
assert result["model"] == "tiny"
|
assert result["model"] == "tiny"
|
||||||
|
|
||||||
|
|
||||||
def test_resolve_defaults_hardcoded_fallback():
|
def test_resolve_defaults_leaves_device_aware_keys_empty():
|
||||||
result = resolve_defaults(
|
result = resolve_defaults(
|
||||||
{"model": None, "language": None, "device": None, "compute_type": None}, {}
|
{"model": None, "language": None, "device": None, "compute_type": None}, {}
|
||||||
)
|
)
|
||||||
assert result == {
|
assert result == {
|
||||||
"model": "medium",
|
"model": None,
|
||||||
"language": "ru",
|
"language": "ru",
|
||||||
"device": "auto",
|
"device": "auto",
|
||||||
"compute_type": "float32",
|
"compute_type": None,
|
||||||
|
"diarize": False,
|
||||||
}
|
}
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_cuda():
|
@pytest.mark.parametrize(
|
||||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
("cli_value", "config_value", "expected"),
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
[
|
||||||
result = apply_device_defaults(defaults, "cuda", cli, {})
|
(None, True, True),
|
||||||
assert result["model"] == "medium"
|
(None, False, False),
|
||||||
assert result["compute_type"] == "float16"
|
(True, False, True),
|
||||||
|
(False, True, False),
|
||||||
|
],
|
||||||
|
)
|
||||||
|
def test_resolve_defaults_diarize_priority(cli_value, config_value, expected):
|
||||||
|
cli = {"diarize": cli_value}
|
||||||
|
config = {"diarize": config_value}
|
||||||
|
|
||||||
|
assert resolve_defaults(cli, config)["diarize"] is expected
|
||||||
def test_apply_device_defaults_cpu():
|
|
||||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
|
||||||
result = apply_device_defaults(defaults, "cpu", cli, {})
|
|
||||||
assert result["model"] == "medium"
|
|
||||||
assert result["compute_type"] == "float32"
|
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_onnx_uses_readable_model():
|
|
||||||
defaults = {
|
|
||||||
"model": "medium",
|
|
||||||
"language": "ru",
|
|
||||||
"device": "auto",
|
|
||||||
"compute_type": "float32",
|
|
||||||
}
|
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
|
||||||
|
|
||||||
result = apply_device_defaults(defaults, "onnx", cli, {})
|
|
||||||
|
|
||||||
assert result["model"] == "gigaam-v3-e2e-rnnt"
|
|
||||||
assert result["compute_type"] == "int8"
|
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_cli_overrides():
|
|
||||||
defaults = {"model": "large-v3", "language": "ru", "device": "auto", "compute_type": "int8"}
|
|
||||||
cli = {"model": "large-v3", "language": None, "device": None, "compute_type": "int8"}
|
|
||||||
result = apply_device_defaults(defaults, "cuda", cli, {})
|
|
||||||
assert result["model"] == "large-v3"
|
|
||||||
assert result["compute_type"] == "int8"
|
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_config_overrides():
|
|
||||||
defaults = {"model": "small", "language": "ru", "device": "auto", "compute_type": "int8"}
|
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
|
||||||
config = {"model": "small", "compute_type": "int8"}
|
|
||||||
result = apply_device_defaults(defaults, "cuda", cli, config)
|
|
||||||
assert result["model"] == "small"
|
|
||||||
assert result["compute_type"] == "int8"
|
|
||||||
|
|
||||||
|
|
||||||
def test_load_config_openvino_device(tmp_path):
|
def test_load_config_openvino_device(tmp_path):
|
||||||
@@ -170,27 +154,3 @@ def test_load_config_openvino_cpu_device(tmp_path):
|
|||||||
config.write_text('device = "openvino-cpu"\n')
|
config.write_text('device = "openvino-cpu"\n')
|
||||||
result = load_config(config)
|
result = load_config(config)
|
||||||
assert result == {"device": "openvino-cpu"}
|
assert result == {"device": "openvino-cpu"}
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_openvino():
|
|
||||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
|
||||||
result = apply_device_defaults(defaults, "openvino", cli, {})
|
|
||||||
assert result["model"] == "medium"
|
|
||||||
assert result["compute_type"] == "int8"
|
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_openvino_gpu():
|
|
||||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
|
||||||
result = apply_device_defaults(defaults, "openvino-gpu", cli, {})
|
|
||||||
assert result["model"] == "medium"
|
|
||||||
assert result["compute_type"] == "int8"
|
|
||||||
|
|
||||||
|
|
||||||
def test_apply_device_defaults_openvino_cpu():
|
|
||||||
defaults = {"model": "medium", "language": "ru", "device": "auto", "compute_type": "float32"}
|
|
||||||
cli = {"model": None, "language": None, "device": None, "compute_type": None}
|
|
||||||
result = apply_device_defaults(defaults, "openvino-cpu", cli, {})
|
|
||||||
assert result["model"] == "medium"
|
|
||||||
assert result["compute_type"] == "int8"
|
|
||||||
@@ -48,12 +48,73 @@ def test_ensure_cublas_loads_library(monkeypatch, tmp_path):
|
|||||||
assert calls[0][1] == ctypes.RTLD_GLOBAL
|
assert calls[0][1] == ctypes.RTLD_GLOBAL
|
||||||
|
|
||||||
|
|
||||||
def test_ensure_cublas_skips_non_linux(monkeypatch):
|
def test_ensure_cublas_skips_macos(monkeypatch):
|
||||||
"""На не-Linux платформах -- no-op."""
|
"""На macOS bootstrap не загружает CUDA."""
|
||||||
monkeypatch.setattr(sys, "platform", "win32")
|
monkeypatch.setattr(sys, "platform", "darwin")
|
||||||
ensure_cublas_loadable() # не должно бросать исключений
|
ensure_cublas_loadable() # не должно бросать исключений
|
||||||
|
|
||||||
|
|
||||||
|
def test_windows_optional_package_absent(monkeypatch):
|
||||||
|
"""Windows работает без extra и не меняет поиск DLL."""
|
||||||
|
monkeypatch.setattr(sys, "platform", "win32")
|
||||||
|
monkeypatch.setitem(sys.modules, "nvidia.cublas", None)
|
||||||
|
ensure_cublas_loadable()
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize("broken", [False, True])
|
||||||
|
def test_windows_preloads_dlls_and_keeps_handles(monkeypatch, tmp_path, broken):
|
||||||
|
"""DLL загружаются по порядку один раз, ошибки не скрываются."""
|
||||||
|
from local_transcriber import _cuda_bootstrap as bootstrap
|
||||||
|
|
||||||
|
bin_dir = tmp_path / "bin"
|
||||||
|
bin_dir.mkdir()
|
||||||
|
nvidia = types.ModuleType("nvidia")
|
||||||
|
nvidia.__path__ = []
|
||||||
|
cublas = types.ModuleType("nvidia.cublas")
|
||||||
|
cublas.__path__ = [str(tmp_path)]
|
||||||
|
nvidia.cublas = cublas
|
||||||
|
monkeypatch.setitem(sys.modules, "nvidia", nvidia)
|
||||||
|
monkeypatch.setitem(sys.modules, "nvidia.cublas", cublas)
|
||||||
|
monkeypatch.setattr(sys, "platform", "win32")
|
||||||
|
monkeypatch.setattr(bootstrap, "_dll_directories", {})
|
||||||
|
monkeypatch.setattr(bootstrap, "_dll_libraries", {})
|
||||||
|
calls = []
|
||||||
|
directory_handle = object()
|
||||||
|
library_handle = object()
|
||||||
|
failure = OSError("cublas64_12.dll: dependency not found")
|
||||||
|
|
||||||
|
def add_directory(path):
|
||||||
|
calls.append(("directory", path))
|
||||||
|
return directory_handle
|
||||||
|
|
||||||
|
def load_library(path):
|
||||||
|
calls.append(("load", path))
|
||||||
|
if broken:
|
||||||
|
raise failure
|
||||||
|
return library_handle
|
||||||
|
|
||||||
|
monkeypatch.setattr(os, "add_dll_directory", add_directory, raising=False)
|
||||||
|
monkeypatch.setattr(ctypes, "WinDLL", load_library, raising=False)
|
||||||
|
original_path = os.environ.get("PATH")
|
||||||
|
|
||||||
|
if broken:
|
||||||
|
with pytest.raises(OSError) as caught:
|
||||||
|
ensure_cublas_loadable()
|
||||||
|
assert caught.value is failure
|
||||||
|
assert bootstrap._dll_libraries == {}
|
||||||
|
else:
|
||||||
|
ensure_cublas_loadable()
|
||||||
|
ensure_cublas_loadable()
|
||||||
|
assert calls == [
|
||||||
|
("directory", str(bin_dir)),
|
||||||
|
("load", str(bin_dir / "cublasLt64_12.dll")),
|
||||||
|
("load", str(bin_dir / "cublas64_12.dll")),
|
||||||
|
]
|
||||||
|
assert list(bootstrap._dll_libraries.values()) == [library_handle] * 2
|
||||||
|
assert bootstrap._dll_directories[str(bin_dir)] is directory_handle
|
||||||
|
assert os.environ.get("PATH") == original_path
|
||||||
|
|
||||||
|
|
||||||
def _nvidia_cublas_installed() -> bool:
|
def _nvidia_cublas_installed() -> bool:
|
||||||
"""Проверяет, что pip-пакет nvidia-cublas-cu12 установлен."""
|
"""Проверяет, что pip-пакет nvidia-cublas-cu12 установлен."""
|
||||||
try:
|
try:
|
||||||
|
|||||||
@@ -137,7 +137,7 @@ def _manifest(tmp_path):
|
|||||||
|
|
||||||
def _environment():
|
def _environment():
|
||||||
return {
|
return {
|
||||||
"sherpa_onnx_version": "1.13.5",
|
"sherpa_onnx_version": "1.13.6",
|
||||||
"onnxruntime_version": "1",
|
"onnxruntime_version": "1",
|
||||||
"numpy_version": "2",
|
"numpy_version": "2",
|
||||||
"psutil_version": "7",
|
"psutil_version": "7",
|
||||||
@@ -408,7 +408,7 @@ def test_stage_timing_parser_accepts_native_lines():
|
|||||||
"[I] OfflineSpeakerDiarization: clustering 0.100 s\n"
|
"[I] OfflineSpeakerDiarization: clustering 0.100 s\n"
|
||||||
"[I] OfflineSpeakerDiarization: total 3.100 s, audio 10.000 s, RTF 0.310"
|
"[I] OfflineSpeakerDiarization: total 3.100 s, audio 10.000 s, RTF 0.310"
|
||||||
)
|
)
|
||||||
stages = calibration.parse_stage_timings(log, "1.13.5")
|
stages = calibration.parse_stage_timings(log, "1.13.6")
|
||||||
assert stages["engine_total_seconds"] == 3.1
|
assert stages["engine_total_seconds"] == 3.1
|
||||||
assert stages["engine_audio_seconds"] == 10.0
|
assert stages["engine_audio_seconds"] == 10.0
|
||||||
assert stages["engine_rtf"] == 0.31
|
assert stages["engine_rtf"] == 0.31
|
||||||
@@ -424,7 +424,7 @@ def test_stage_timing_parser_accepts_native_lines():
|
|||||||
)
|
)
|
||||||
def test_stage_timing_parser_rejects_missing_duplicate_and_negative(log):
|
def test_stage_timing_parser_rejects_missing_duplicate_and_negative(log):
|
||||||
with pytest.raises(ValueError):
|
with pytest.raises(ValueError):
|
||||||
calibration.parse_stage_timings(log, "1.13.5")
|
calibration.parse_stage_timings(log, "1.13.6")
|
||||||
|
|
||||||
|
|
||||||
def test_stage_timing_parser_rejects_extra_malformed_record():
|
def test_stage_timing_parser_rejects_extra_malformed_record():
|
||||||
@@ -436,7 +436,7 @@ def test_stage_timing_parser_rejects_extra_malformed_record():
|
|||||||
"OfflineSpeakerDiarization: total 3.100 s, audio 10.000 s, RTF 0.310"
|
"OfflineSpeakerDiarization: total 3.100 s, audio 10.000 s, RTF 0.310"
|
||||||
)
|
)
|
||||||
with pytest.raises(ValueError, match="повреждённую"):
|
with pytest.raises(ValueError, match="повреждённую"):
|
||||||
calibration.parse_stage_timings(log, "1.13.5")
|
calibration.parse_stage_timings(log, "1.13.6")
|
||||||
|
|
||||||
|
|
||||||
def test_measurement_uses_injected_cpu_clock_and_rss_once():
|
def test_measurement_uses_injected_cpu_clock_and_rss_once():
|
||||||
@@ -708,7 +708,7 @@ def test_execute_cell_rejects_text_mismatch_without_persisting_private_text(
|
|||||||
tmp_path, monkeypatch
|
tmp_path, monkeypatch
|
||||||
):
|
):
|
||||||
manifest = _manifest(tmp_path)
|
manifest = _manifest(tmp_path)
|
||||||
output = {"environment": {"logical_cpus": 4, "sherpa_onnx_version": "1.13.5"}}
|
output = {"environment": {"logical_cpus": 4, "sherpa_onnx_version": "1.13.6"}}
|
||||||
spec = calibration.expand_automatic_cells(manifest, "e" * 64)[0]
|
spec = calibration.expand_automatic_cells(manifest, "e" * 64)[0]
|
||||||
recording = manifest["recordings"][0]
|
recording = manifest["recordings"][0]
|
||||||
private_text = " СОВЕРШЕННО-СЕКРЕТНЫЙ-ТЕКСТ"
|
private_text = " СОВЕРШЕННО-СЕКРЕТНЫЙ-ТЕКСТ"
|
||||||
@@ -758,7 +758,7 @@ def test_execute_cell_rejects_text_mismatch_without_persisting_private_text(
|
|||||||
|
|
||||||
def test_execute_cell_rejects_engine_audio_duration_mismatch(tmp_path, monkeypatch):
|
def test_execute_cell_rejects_engine_audio_duration_mismatch(tmp_path, monkeypatch):
|
||||||
manifest = _manifest(tmp_path)
|
manifest = _manifest(tmp_path)
|
||||||
output = {"environment": {"logical_cpus": 4, "sherpa_onnx_version": "1.13.5"}}
|
output = {"environment": {"logical_cpus": 4, "sherpa_onnx_version": "1.13.6"}}
|
||||||
spec = calibration.expand_automatic_cells(manifest, "e" * 64)[0]
|
spec = calibration.expand_automatic_cells(manifest, "e" * 64)[0]
|
||||||
recording = manifest["recordings"][0]
|
recording = manifest["recordings"][0]
|
||||||
monkeypatch.setattr(
|
monkeypatch.setattr(
|
||||||
|
|||||||
@@ -0,0 +1,677 @@
|
|||||||
|
import io
|
||||||
|
import sys
|
||||||
|
from contextlib import contextmanager
|
||||||
|
from types import SimpleNamespace
|
||||||
|
|
||||||
|
import numpy as np
|
||||||
|
import pytest
|
||||||
|
|
||||||
|
from local_transcriber import experimental_diarization as runner
|
||||||
|
|
||||||
|
|
||||||
|
def _run_shared_cell(monkeypatch, tmp_path, *, counters=None, drop_output_text=False):
|
||||||
|
events = []
|
||||||
|
active_interval = {"name": None}
|
||||||
|
embeddings = np.asarray([[1.0, 0.0], [0.0, 1.0]], dtype=np.float32)
|
||||||
|
work_counters = (
|
||||||
|
{
|
||||||
|
"embedding_jobs": 2,
|
||||||
|
"embedding_run_calls": 2,
|
||||||
|
"embedding_rows_dropped": 0,
|
||||||
|
}
|
||||||
|
if counters is None
|
||||||
|
else counters
|
||||||
|
)
|
||||||
|
|
||||||
|
class Diarization:
|
||||||
|
def sort_by_start_time(self):
|
||||||
|
return [
|
||||||
|
SimpleNamespace(speaker=0, start=0.0, end=0.5),
|
||||||
|
SimpleNamespace(speaker=1, start=0.5, end=1.0),
|
||||||
|
]
|
||||||
|
|
||||||
|
class Engine:
|
||||||
|
sample_rate = runner.SAMPLE_RATE
|
||||||
|
|
||||||
|
def __init__(self, config):
|
||||||
|
self.config = config
|
||||||
|
|
||||||
|
def prepare(self, samples, workers):
|
||||||
|
events.append((active_interval["name"], f"prepare:{workers}"))
|
||||||
|
return SimpleNamespace(
|
||||||
|
is_terminal=False,
|
||||||
|
embeddings=embeddings.copy(),
|
||||||
|
row_mapping=((0, 0, [(0, 8_000)]), (1, 0, [(8_000, 16_000)])),
|
||||||
|
counters=dict(work_counters),
|
||||||
|
)
|
||||||
|
|
||||||
|
def finalize(self, prepared, labels):
|
||||||
|
events.append((active_interval["name"], "finalize"))
|
||||||
|
return Diarization()
|
||||||
|
|
||||||
|
class Clustering:
|
||||||
|
def __init__(self, config):
|
||||||
|
self.config = config
|
||||||
|
|
||||||
|
def __call__(self, values):
|
||||||
|
events.append((active_interval["name"], "cluster"))
|
||||||
|
return np.asarray([0, 1], dtype=np.int32)
|
||||||
|
|
||||||
|
fake_sherpa = SimpleNamespace(
|
||||||
|
OfflineSpeakerDiarization=Engine,
|
||||||
|
FastClusteringConfig=lambda **values: SimpleNamespace(**values),
|
||||||
|
FastClustering=Clustering,
|
||||||
|
)
|
||||||
|
monkeypatch.setitem(sys.modules, "sherpa_onnx", fake_sherpa)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"make_config",
|
||||||
|
lambda cell, artifacts, provider_config_path: SimpleNamespace(
|
||||||
|
validate=lambda: True
|
||||||
|
),
|
||||||
|
)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"_decode_clip",
|
||||||
|
lambda recording: np.zeros(runner.SAMPLE_RATE, dtype=np.float32),
|
||||||
|
)
|
||||||
|
|
||||||
|
def estimate(values):
|
||||||
|
events.append((active_interval["name"], "counter"))
|
||||||
|
return {"status": "complete", "num_clusters": 2, "p": 3}
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "estimate_nme", estimate)
|
||||||
|
measurement_names = iter(("published", "validation"))
|
||||||
|
|
||||||
|
def measure(operation, process, interval_seconds):
|
||||||
|
name = next(measurement_names)
|
||||||
|
active_interval["name"] = name
|
||||||
|
try:
|
||||||
|
result = operation()
|
||||||
|
finally:
|
||||||
|
active_interval["name"] = None
|
||||||
|
suffix = 0 if name == "published" else 1
|
||||||
|
return result, {
|
||||||
|
"wall_seconds": 10.0 + suffix,
|
||||||
|
"user_cpu_seconds": 7.0 + suffix,
|
||||||
|
"system_cpu_seconds": 1.0,
|
||||||
|
"total_cpu_seconds": 8.0 + suffix,
|
||||||
|
"average_cpu_cores": 0.8,
|
||||||
|
"peak_rss_bytes": 100 + suffix,
|
||||||
|
}
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "measure_call", measure)
|
||||||
|
|
||||||
|
@contextmanager
|
||||||
|
def native_log():
|
||||||
|
yield io.BytesIO()
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "capture_native_stderr", native_log)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"parse_prepare_timings",
|
||||||
|
lambda log: {"segmentation_seconds": 0.2, "embedding_seconds": 0.1},
|
||||||
|
)
|
||||||
|
if drop_output_text:
|
||||||
|
original_builder = runner.build_speaker_transcript
|
||||||
|
|
||||||
|
def build_without_last_word(words, intervals, duration):
|
||||||
|
transcript = original_builder(words, intervals, duration)
|
||||||
|
transcript.turns = transcript.turns[:-1]
|
||||||
|
return transcript
|
||||||
|
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner, "build_speaker_transcript", build_without_last_word
|
||||||
|
)
|
||||||
|
|
||||||
|
words_path = tmp_path / "words.json"
|
||||||
|
words_path.write_text(
|
||||||
|
'[{"start": 0.1, "end": 0.4, "text": "Привет"}, '
|
||||||
|
'{"start": 0.6, "end": 0.9, "text": "мир"}]',
|
||||||
|
encoding="utf-8",
|
||||||
|
)
|
||||||
|
cell = {
|
||||||
|
"name": "E1",
|
||||||
|
"cell_id": "shared-cell",
|
||||||
|
"counter": "nme",
|
||||||
|
"window_shift_ratio": 0.1,
|
||||||
|
"segmentation_artifact_id": "segmentation",
|
||||||
|
"embedding_artifact_id": "embedding",
|
||||||
|
"recording_ids": ["recording"],
|
||||||
|
"clustering": {"threshold": 0.89, "num_clusters": None},
|
||||||
|
"inference": {
|
||||||
|
"mode": "shared-session",
|
||||||
|
"outer_workers": 2,
|
||||||
|
"session_count": 1,
|
||||||
|
"intra_op_threads": 2,
|
||||||
|
"inter_op_threads": 1,
|
||||||
|
"batch_size": 1,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
request = {
|
||||||
|
"manifest": {
|
||||||
|
"rss_sample_interval_ms": 10,
|
||||||
|
"artifacts": [],
|
||||||
|
"recordings": [
|
||||||
|
{
|
||||||
|
"id": "recording",
|
||||||
|
"path": str(tmp_path / "recording.wav"),
|
||||||
|
"start": 0.0,
|
||||||
|
"duration": 1.0,
|
||||||
|
"expected_speakers": 2,
|
||||||
|
"asr_words": {"path": str(words_path)},
|
||||||
|
"reference": None,
|
||||||
|
}
|
||||||
|
],
|
||||||
|
},
|
||||||
|
"cell": cell,
|
||||||
|
"work_dir": str(tmp_path),
|
||||||
|
}
|
||||||
|
return runner.run_cell(request), events
|
||||||
|
|
||||||
|
|
||||||
|
def test_run_cell_shared_session_separates_measurement_from_validation(
|
||||||
|
monkeypatch, tmp_path
|
||||||
|
):
|
||||||
|
result, events = _run_shared_cell(monkeypatch, tmp_path)
|
||||||
|
|
||||||
|
recording = result["recordings"][0]
|
||||||
|
assert result["aggregate"]["quality_passed"] is True
|
||||||
|
assert recording["text_equal"] is True
|
||||||
|
assert recording["prepared"]["inference"] == {
|
||||||
|
"mode": "shared-session",
|
||||||
|
"rows_equal_to_sequential": True,
|
||||||
|
"finite_embeddings": True,
|
||||||
|
"labels_equal_to_sequential": True,
|
||||||
|
"final_equal_to_sequential": True,
|
||||||
|
"max_abs_drift": 0.0,
|
||||||
|
"min_cosine": 1.0,
|
||||||
|
}
|
||||||
|
assert recording["metrics"]["wall_seconds"] == 10.0
|
||||||
|
assert recording["metrics"]["peak_rss_bytes"] == 100
|
||||||
|
assert recording["metrics"]["validation_wall_seconds"] == 11.0
|
||||||
|
assert recording["metrics"]["validation_peak_rss_bytes"] == 101
|
||||||
|
assert events == [
|
||||||
|
("published", "prepare:2"),
|
||||||
|
("published", "counter"),
|
||||||
|
("published", "cluster"),
|
||||||
|
("published", "finalize"),
|
||||||
|
("validation", "counter"),
|
||||||
|
("validation", "cluster"),
|
||||||
|
("validation", "prepare:1"),
|
||||||
|
("validation", "counter"),
|
||||||
|
("validation", "cluster"),
|
||||||
|
("validation", "finalize"),
|
||||||
|
]
|
||||||
|
|
||||||
|
|
||||||
|
def test_run_cell_rejects_changed_output_text(monkeypatch, tmp_path):
|
||||||
|
result, _ = _run_shared_cell(
|
||||||
|
monkeypatch, tmp_path, drop_output_text=True
|
||||||
|
)
|
||||||
|
|
||||||
|
assert result["recordings"][0]["text_equal"] is False
|
||||||
|
assert result["aggregate"]["quality_passed"] is False
|
||||||
|
|
||||||
|
|
||||||
|
def test_run_cell_rejects_missing_prepared_work_counters(monkeypatch, tmp_path):
|
||||||
|
result, _ = _run_shared_cell(monkeypatch, tmp_path, counters={})
|
||||||
|
|
||||||
|
assert result["recordings"][0]["prepared"]["validation_passed"] is False
|
||||||
|
assert result["aggregate"]["quality_passed"] is False
|
||||||
|
|
||||||
|
|
||||||
|
def test_segmentation_window_count_includes_last_padded_window():
|
||||||
|
assert runner.segmentation_window_count(160_000, 16_000) == 1
|
||||||
|
assert runner.segmentation_window_count(160_001, 16_000) == 2
|
||||||
|
assert runner.segmentation_window_count(176_000, 16_000) == 2
|
||||||
|
|
||||||
|
|
||||||
|
def test_prepare_timing_parser_accepts_exactly_two_stages():
|
||||||
|
log = (
|
||||||
|
"OfflineSpeakerDiarization: segmentation 1.250 s\n"
|
||||||
|
"OfflineSpeakerDiarization: embedding 2.500 s"
|
||||||
|
)
|
||||||
|
|
||||||
|
assert runner.parse_prepare_timings(log) == {
|
||||||
|
"segmentation_seconds": 1.25,
|
||||||
|
"embedding_seconds": 2.5,
|
||||||
|
}
|
||||||
|
|
||||||
|
with pytest.raises(ValueError, match="обе стадии"):
|
||||||
|
runner.parse_prepare_timings("OfflineSpeakerDiarization: embedding 2.5 s")
|
||||||
|
|
||||||
|
|
||||||
|
def test_known_counter_clusters_independent_embedding_copies():
|
||||||
|
original = np.asarray([[1.0, 0.0], [0.9, 0.1], [0.0, 1.0]], dtype=np.float32)
|
||||||
|
prepared = SimpleNamespace(embeddings=original, is_terminal=False)
|
||||||
|
|
||||||
|
class FakeClustering:
|
||||||
|
calls = 0
|
||||||
|
|
||||||
|
def __init__(self, config):
|
||||||
|
self.config = config
|
||||||
|
|
||||||
|
def __call__(self, features):
|
||||||
|
FakeClustering.calls += 1
|
||||||
|
features[:] = -100
|
||||||
|
return list(range(self.config.num_clusters)) + [0]
|
||||||
|
|
||||||
|
fake_sherpa = SimpleNamespace(
|
||||||
|
FastClusteringConfig=lambda **values: SimpleNamespace(**values),
|
||||||
|
FastClustering=FakeClustering,
|
||||||
|
)
|
||||||
|
cell = {
|
||||||
|
"counter": "known",
|
||||||
|
"clustering": {"threshold": 0.89},
|
||||||
|
}
|
||||||
|
|
||||||
|
labels, counter, _ = runner._cluster_prepared(
|
||||||
|
fake_sherpa, prepared, cell, expected_speakers=2
|
||||||
|
)
|
||||||
|
|
||||||
|
assert labels.tolist() == [0, 1, 0]
|
||||||
|
assert counter["num_clusters"] == 2
|
||||||
|
assert FakeClustering.calls == 1
|
||||||
|
validated = runner._validate_cluster_repeatability(
|
||||||
|
fake_sherpa,
|
||||||
|
prepared,
|
||||||
|
cell,
|
||||||
|
expected_speakers=2,
|
||||||
|
labels=labels,
|
||||||
|
counter_result=counter,
|
||||||
|
)
|
||||||
|
assert validated["repeatable_labels"] is True
|
||||||
|
assert FakeClustering.calls == 2
|
||||||
|
assert np.array_equal(prepared.embeddings, original)
|
||||||
|
|
||||||
|
|
||||||
|
def _special_cell(mode, *, batch_size=1, sessions=1, outer=1, intra=4):
|
||||||
|
return {
|
||||||
|
"counter": "nme" if mode == "titanet-batch" else "known",
|
||||||
|
"clustering": {"threshold": 0.89},
|
||||||
|
"embedding_artifact_id": "embedding",
|
||||||
|
"inference": {
|
||||||
|
"mode": mode,
|
||||||
|
"outer_workers": outer,
|
||||||
|
"session_count": sessions,
|
||||||
|
"intra_op_threads": intra,
|
||||||
|
"inter_op_threads": 1,
|
||||||
|
"batch_size": batch_size,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
def test_special_inference_enforces_exact_thread_budgets():
|
||||||
|
runner._validate_special_inference(
|
||||||
|
_special_cell("separate-session", sessions=4, outer=4, intra=1), 4
|
||||||
|
)
|
||||||
|
runner._validate_special_inference(
|
||||||
|
_special_cell("titanet-batch", batch_size=4), 4
|
||||||
|
)
|
||||||
|
|
||||||
|
with pytest.raises(ValueError, match="P worker"):
|
||||||
|
runner._validate_special_inference(
|
||||||
|
_special_cell("separate-session", sessions=2, outer=4, intra=1), 4
|
||||||
|
)
|
||||||
|
with pytest.raises(ValueError, match="бюджет физических ядер"):
|
||||||
|
runner._validate_special_inference(
|
||||||
|
_special_cell("separate-session", sessions=4, outer=4, intra=2), 4
|
||||||
|
)
|
||||||
|
with pytest.raises(ValueError, match="batch 1 или 4"):
|
||||||
|
runner._validate_special_inference(
|
||||||
|
_special_cell("titanet-batch", batch_size=2), 4
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
def test_separate_sessions_restore_row_order_without_loss():
|
||||||
|
class Stream:
|
||||||
|
def __init__(self):
|
||||||
|
self.samples = []
|
||||||
|
|
||||||
|
def accept_waveform(self, sample_rate, samples):
|
||||||
|
assert sample_rate == runner.SAMPLE_RATE
|
||||||
|
self.samples.extend(samples)
|
||||||
|
|
||||||
|
def input_finished(self):
|
||||||
|
pass
|
||||||
|
|
||||||
|
class Extractor:
|
||||||
|
def create_stream(self):
|
||||||
|
return Stream()
|
||||||
|
|
||||||
|
def is_ready(self, stream):
|
||||||
|
return bool(stream.samples)
|
||||||
|
|
||||||
|
def compute(self, stream):
|
||||||
|
return [stream.samples[0], len(stream.samples)]
|
||||||
|
|
||||||
|
samples = np.arange(30, dtype=np.float32)
|
||||||
|
mapping = [
|
||||||
|
(0, 0, [(9, 12)]),
|
||||||
|
(0, 1, [(1, 3)]),
|
||||||
|
(1, 0, [(20, 24)]),
|
||||||
|
(1, 1, [(5, 6)]),
|
||||||
|
(2, 0, [(14, 19)]),
|
||||||
|
]
|
||||||
|
|
||||||
|
embeddings = runner._compute_separate_embeddings(
|
||||||
|
[Extractor(), Extractor()], mapping, samples, outer_workers=2
|
||||||
|
)
|
||||||
|
|
||||||
|
assert embeddings.tolist() == [
|
||||||
|
[9.0, 3.0],
|
||||||
|
[1.0, 2.0],
|
||||||
|
[20.0, 4.0],
|
||||||
|
[5.0, 1.0],
|
||||||
|
[14.0, 5.0],
|
||||||
|
]
|
||||||
|
assert np.isfinite(embeddings).all()
|
||||||
|
|
||||||
|
|
||||||
|
def test_separate_runner_measures_validation_and_embedding_rss_separately(
|
||||||
|
monkeypatch,
|
||||||
|
):
|
||||||
|
embeddings = np.asarray([[1.0, 0.0], [0.0, 1.0]], dtype=np.float32)
|
||||||
|
prepared = SimpleNamespace(
|
||||||
|
is_terminal=False,
|
||||||
|
embeddings=embeddings.copy(),
|
||||||
|
row_mapping=((0, 0, [(0, 5)]), (1, 0, [(5, 10)])),
|
||||||
|
counters={
|
||||||
|
"embedding_jobs": 2,
|
||||||
|
"embedding_run_calls": 2,
|
||||||
|
"embedding_rows_dropped": 0,
|
||||||
|
},
|
||||||
|
)
|
||||||
|
events = []
|
||||||
|
active_interval = {"name": None}
|
||||||
|
|
||||||
|
class Clustering:
|
||||||
|
def __init__(self, config):
|
||||||
|
self.config = config
|
||||||
|
|
||||||
|
def __call__(self, values):
|
||||||
|
events.append((active_interval["name"], "cluster"))
|
||||||
|
return np.asarray([0, 1], dtype=np.int32)
|
||||||
|
|
||||||
|
fake_sherpa = SimpleNamespace(
|
||||||
|
FastClusteringConfig=lambda **values: SimpleNamespace(**values),
|
||||||
|
FastClustering=Clustering,
|
||||||
|
)
|
||||||
|
monkeypatch.setitem(sys.modules, "sherpa_onnx", fake_sherpa)
|
||||||
|
|
||||||
|
def estimate(values):
|
||||||
|
events.append((active_interval["name"], "counter"))
|
||||||
|
return {"status": "complete", "num_clusters": 2, "p": 3}
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "estimate_nme", estimate)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"_compute_separate_embeddings",
|
||||||
|
lambda extractors, mapping, samples, outer_workers: embeddings.copy(),
|
||||||
|
)
|
||||||
|
measurement_names = iter(("published", "embedding", "validation"))
|
||||||
|
|
||||||
|
def measure(operation, process, interval_seconds):
|
||||||
|
name = next(measurement_names)
|
||||||
|
previous = active_interval["name"]
|
||||||
|
active_interval["name"] = name
|
||||||
|
try:
|
||||||
|
result = operation()
|
||||||
|
finally:
|
||||||
|
active_interval["name"] = previous
|
||||||
|
values = {
|
||||||
|
"published": (10.0, 100),
|
||||||
|
"embedding": (3.0, 50),
|
||||||
|
"validation": (4.0, 200),
|
||||||
|
}
|
||||||
|
wall, peak = values[name]
|
||||||
|
return result, {
|
||||||
|
"wall_seconds": wall,
|
||||||
|
"user_cpu_seconds": wall / 2,
|
||||||
|
"system_cpu_seconds": 1.0,
|
||||||
|
"total_cpu_seconds": wall / 2 + 1.0,
|
||||||
|
"average_cpu_cores": 0.6,
|
||||||
|
"peak_rss_bytes": peak,
|
||||||
|
}
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "measure_call", measure)
|
||||||
|
|
||||||
|
@contextmanager
|
||||||
|
def native_log():
|
||||||
|
yield io.BytesIO()
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "capture_native_stderr", native_log)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"parse_prepare_timings",
|
||||||
|
lambda log: {"segmentation_seconds": 0.2, "embedding_seconds": 0.1},
|
||||||
|
)
|
||||||
|
|
||||||
|
class Diarization:
|
||||||
|
def sort_by_start_time(self):
|
||||||
|
return [
|
||||||
|
SimpleNamespace(speaker=0, start=0.0, end=0.5),
|
||||||
|
SimpleNamespace(speaker=1, start=0.5, end=1.0),
|
||||||
|
]
|
||||||
|
|
||||||
|
class Engine:
|
||||||
|
def prepare(self, samples, workers):
|
||||||
|
events.append((active_interval["name"], "prepare"))
|
||||||
|
return prepared
|
||||||
|
|
||||||
|
def finalize(self, prepared_value, labels):
|
||||||
|
events.append((active_interval["name"], "finalize"))
|
||||||
|
return Diarization()
|
||||||
|
|
||||||
|
cell = _special_cell("separate-session", sessions=2, outer=2, intra=1)
|
||||||
|
cell["counter"] = "nme"
|
||||||
|
_, metrics, _, data = runner._run_separate_session_recording(
|
||||||
|
Engine(),
|
||||||
|
[object(), object()],
|
||||||
|
np.zeros(10, dtype=np.float32),
|
||||||
|
cell,
|
||||||
|
{"expected_speakers": 2},
|
||||||
|
0.01,
|
||||||
|
)
|
||||||
|
|
||||||
|
assert metrics["peak_rss_bytes"] == 100
|
||||||
|
assert metrics["embedding_peak_rss_bytes"] == 50
|
||||||
|
assert metrics["validation_peak_rss_bytes"] == 200
|
||||||
|
assert metrics["validation_wall_seconds"] == 4.0
|
||||||
|
assert metrics["instrumented_pipeline_wall_seconds"] == 10.0
|
||||||
|
assert "measured_validation_wall_seconds" not in metrics
|
||||||
|
assert data["validation_passed"] is True
|
||||||
|
assert events == [
|
||||||
|
("published", "prepare"),
|
||||||
|
("published", "counter"),
|
||||||
|
("published", "cluster"),
|
||||||
|
("published", "finalize"),
|
||||||
|
("validation", "counter"),
|
||||||
|
("validation", "cluster"),
|
||||||
|
("validation", "counter"),
|
||||||
|
("validation", "cluster"),
|
||||||
|
("validation", "finalize"),
|
||||||
|
]
|
||||||
|
|
||||||
|
|
||||||
|
def test_titanet_batches_keep_variable_length_row_order():
|
||||||
|
features = [
|
||||||
|
np.full((3, 80), 10.0, dtype=np.float32),
|
||||||
|
np.full((5, 80), 20.0, dtype=np.float32),
|
||||||
|
np.full((2, 80), 30.0, dtype=np.float32),
|
||||||
|
np.full((4, 80), 40.0, dtype=np.float32),
|
||||||
|
np.full((6, 80), 50.0, dtype=np.float32),
|
||||||
|
]
|
||||||
|
|
||||||
|
class Session:
|
||||||
|
def __init__(self):
|
||||||
|
self.length_batches = []
|
||||||
|
|
||||||
|
def run(self, output_names, inputs):
|
||||||
|
assert output_names == ["embs"]
|
||||||
|
values = inputs["audio_signal"]
|
||||||
|
lengths = inputs["length"]
|
||||||
|
self.length_batches.append(lengths.tolist())
|
||||||
|
assert values.shape == (len(lengths), 80, max(lengths))
|
||||||
|
return [
|
||||||
|
np.asarray(
|
||||||
|
[[values[index, 0, 0], length] for index, length in enumerate(lengths)],
|
||||||
|
dtype=np.float32,
|
||||||
|
)
|
||||||
|
]
|
||||||
|
|
||||||
|
session = Session()
|
||||||
|
batch4 = runner._infer_titanet_batches(session, features, batch_size=4)
|
||||||
|
batch1 = runner._infer_titanet_batches(Session(), features, batch_size=1)
|
||||||
|
|
||||||
|
assert session.length_batches == [[3, 5, 2, 4], [6]]
|
||||||
|
assert batch4.tolist() == batch1.tolist() == [
|
||||||
|
[10.0, 3.0],
|
||||||
|
[20.0, 5.0],
|
||||||
|
[30.0, 2.0],
|
||||||
|
[40.0, 4.0],
|
||||||
|
[50.0, 6.0],
|
||||||
|
]
|
||||||
|
|
||||||
|
|
||||||
|
def test_titanet_runner_compares_batch_1_and_4_before_finalize(monkeypatch):
|
||||||
|
embeddings = np.asarray(
|
||||||
|
[[1.0, 0.0], [0.9, 0.1], [0.0, 1.0]], dtype=np.float32
|
||||||
|
)
|
||||||
|
prepared = SimpleNamespace(
|
||||||
|
is_terminal=False,
|
||||||
|
embeddings=embeddings.copy(),
|
||||||
|
row_mapping=((0, 0, [(0, 4)]), (0, 1, [(4, 8)]), (1, 0, [(8, 12)])),
|
||||||
|
counters={"embedding_jobs": 3, "embedding_run_calls": 3, "embedding_rows_dropped": 0},
|
||||||
|
)
|
||||||
|
|
||||||
|
events = []
|
||||||
|
active_interval = {"name": None}
|
||||||
|
|
||||||
|
class Clustering:
|
||||||
|
def __init__(self, config):
|
||||||
|
self.config = config
|
||||||
|
|
||||||
|
def __call__(self, values):
|
||||||
|
events.append((active_interval["name"], "cluster"))
|
||||||
|
return np.asarray([0, 0, 1], dtype=np.int32)
|
||||||
|
|
||||||
|
fake_sherpa = SimpleNamespace(
|
||||||
|
FastClusteringConfig=lambda **values: SimpleNamespace(**values),
|
||||||
|
FastClustering=Clustering,
|
||||||
|
)
|
||||||
|
monkeypatch.setitem(sys.modules, "sherpa_onnx", fake_sherpa)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"estimate_nme",
|
||||||
|
lambda values: (
|
||||||
|
events.append((active_interval["name"], "counter"))
|
||||||
|
or {"status": "complete", "num_clusters": 2, "p": 2}
|
||||||
|
),
|
||||||
|
)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"_prepare_titanet_features",
|
||||||
|
lambda mapping, samples: [
|
||||||
|
np.ones((3, 80), dtype=np.float32),
|
||||||
|
np.ones((4, 80), dtype=np.float32),
|
||||||
|
np.ones((5, 80), dtype=np.float32),
|
||||||
|
],
|
||||||
|
)
|
||||||
|
seen_batches = []
|
||||||
|
|
||||||
|
def infer(session, features, batch_size):
|
||||||
|
seen_batches.append((active_interval["name"], batch_size))
|
||||||
|
return embeddings.copy()
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "_infer_titanet_batches", infer)
|
||||||
|
measurement_names = iter(
|
||||||
|
("published", "published-embedding", "validation", "validation-embedding")
|
||||||
|
)
|
||||||
|
|
||||||
|
def measure(operation, process, interval_seconds):
|
||||||
|
name = next(measurement_names)
|
||||||
|
previous = active_interval["name"]
|
||||||
|
active_interval["name"] = name
|
||||||
|
try:
|
||||||
|
result = operation()
|
||||||
|
finally:
|
||||||
|
active_interval["name"] = previous
|
||||||
|
return result, {
|
||||||
|
"wall_seconds": 1.0,
|
||||||
|
"user_cpu_seconds": 0.7,
|
||||||
|
"system_cpu_seconds": 0.1,
|
||||||
|
"total_cpu_seconds": 0.8,
|
||||||
|
"average_cpu_cores": 0.8,
|
||||||
|
"peak_rss_bytes": 100,
|
||||||
|
}
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "measure_call", measure)
|
||||||
|
|
||||||
|
@contextmanager
|
||||||
|
def native_log():
|
||||||
|
yield io.BytesIO()
|
||||||
|
|
||||||
|
monkeypatch.setattr(runner, "capture_native_stderr", native_log)
|
||||||
|
monkeypatch.setattr(
|
||||||
|
runner,
|
||||||
|
"parse_prepare_timings",
|
||||||
|
lambda log: {"segmentation_seconds": 0.2, "embedding_seconds": 0.4},
|
||||||
|
)
|
||||||
|
|
||||||
|
class Diarization:
|
||||||
|
def __init__(self, labels):
|
||||||
|
self.labels = labels
|
||||||
|
|
||||||
|
def sort_by_start_time(self):
|
||||||
|
return [
|
||||||
|
SimpleNamespace(speaker=int(label), start=index, end=index + 1)
|
||||||
|
for index, label in enumerate(self.labels)
|
||||||
|
]
|
||||||
|
|
||||||
|
class Engine:
|
||||||
|
def prepare(self, samples, workers):
|
||||||
|
assert workers == 1
|
||||||
|
events.append((active_interval["name"], "prepare"))
|
||||||
|
return prepared
|
||||||
|
|
||||||
|
def finalize(self, prepared_value, labels):
|
||||||
|
assert prepared_value is prepared
|
||||||
|
events.append((active_interval["name"], "finalize"))
|
||||||
|
return Diarization(labels)
|
||||||
|
|
||||||
|
cell = _special_cell("titanet-batch", batch_size=4)
|
||||||
|
result, metrics, _, data = runner._run_titanet_batch_recording(
|
||||||
|
Engine(),
|
||||||
|
object(),
|
||||||
|
np.arange(20, dtype=np.float32),
|
||||||
|
cell,
|
||||||
|
{"expected_speakers": 2},
|
||||||
|
0.01,
|
||||||
|
)
|
||||||
|
|
||||||
|
assert seen_batches == [("published-embedding", 4), ("validation-embedding", 1)]
|
||||||
|
assert data["validation_passed"] is True
|
||||||
|
assert data["inference"]["n_equal"] is True
|
||||||
|
assert data["inference"]["labels_equal"] is True
|
||||||
|
assert data["inference"]["final_equal"] is True
|
||||||
|
assert data["counters"]["embedding_run_calls"] == 1
|
||||||
|
assert metrics["measurement_kind"] == "composed-estimate"
|
||||||
|
assert metrics["wall_seconds_is_composed"] is True
|
||||||
|
assert metrics["instrumented_pipeline_wall_seconds"] == 1.0
|
||||||
|
assert metrics["embedding_peak_rss_bytes"] == 100
|
||||||
|
assert metrics["validation_wall_seconds"] == 1.0
|
||||||
|
assert metrics["validation_peak_rss_bytes"] == 100
|
||||||
|
assert events == [
|
||||||
|
("published", "prepare"),
|
||||||
|
("published", "counter"),
|
||||||
|
("published", "cluster"),
|
||||||
|
("published", "finalize"),
|
||||||
|
("validation", "counter"),
|
||||||
|
("validation", "cluster"),
|
||||||
|
("validation", "counter"),
|
||||||
|
("validation", "cluster"),
|
||||||
|
("validation", "finalize"),
|
||||||
|
]
|
||||||
|
assert [item.speaker for item in result.sort_by_start_time()] == [0, 0, 1]
|
||||||
+78
-3
@@ -1,6 +1,7 @@
|
|||||||
"""Tests for onnx-asr backend."""
|
"""Tests for onnx-asr backend."""
|
||||||
|
|
||||||
import warnings
|
import warnings
|
||||||
|
from unittest.mock import MagicMock
|
||||||
|
|
||||||
import pytest
|
import pytest
|
||||||
|
|
||||||
@@ -64,12 +65,12 @@ class TestEnsureModelAvailable:
|
|||||||
def with_timestamps(self):
|
def with_timestamps(self):
|
||||||
return self
|
return self
|
||||||
|
|
||||||
def fake_load_model(*, model, quantization):
|
def fake_load_model(*, model, quantization, providers):
|
||||||
quantizations.append(quantization)
|
quantizations.append(quantization)
|
||||||
return FakeAsrAdapter()
|
return FakeAsrAdapter()
|
||||||
|
|
||||||
monkeypatch.setattr("onnx_asr.load_model", fake_load_model)
|
monkeypatch.setattr("onnx_asr.load_model", fake_load_model)
|
||||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model: None)
|
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: None)
|
||||||
|
|
||||||
backend = OnnxAsrBackend(compute_type_explicit=False)
|
backend = OnnxAsrBackend(compute_type_explicit=False)
|
||||||
model_id = backend.ensure_model_available(
|
model_id = backend.ensure_model_available(
|
||||||
@@ -87,6 +88,56 @@ class TestEnsureModelAvailable:
|
|||||||
|
|
||||||
|
|
||||||
class TestCreateModel:
|
class TestCreateModel:
|
||||||
|
def test_cpu_provider_is_explicit_for_asr_and_vad(self, monkeypatch):
|
||||||
|
"""Доступность CoreML/CUDA не меняет исполнение ASR и VAD."""
|
||||||
|
monkeypatch.setattr(
|
||||||
|
"onnxruntime.get_available_providers",
|
||||||
|
lambda: ["CoreMLExecutionProvider", "CUDAExecutionProvider", "CPUExecutionProvider"],
|
||||||
|
)
|
||||||
|
load_asr = MagicMock()
|
||||||
|
load_vad = MagicMock()
|
||||||
|
monkeypatch.setattr("onnx_asr.load_model", load_asr)
|
||||||
|
monkeypatch.setattr("onnx_asr.load_vad", load_vad)
|
||||||
|
|
||||||
|
OnnxAsrBackend().create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
||||||
|
|
||||||
|
load_asr.assert_called_once_with(
|
||||||
|
model="gigaam-v3-e2e-rnnt",
|
||||||
|
quantization="int8",
|
||||||
|
providers=["CPUExecutionProvider"],
|
||||||
|
)
|
||||||
|
load_vad.assert_called_once_with("silero", providers=["CPUExecutionProvider"])
|
||||||
|
|
||||||
|
def test_thread_budget_reaches_asr_and_vad_sessions(self, monkeypatch):
|
||||||
|
"""--threads задаёт intra_op_num_threads обеим сессиям через SessionOptions."""
|
||||||
|
load_asr = MagicMock()
|
||||||
|
load_vad = MagicMock()
|
||||||
|
monkeypatch.setattr("onnx_asr.load_model", load_asr)
|
||||||
|
monkeypatch.setattr("onnx_asr.load_vad", load_vad)
|
||||||
|
|
||||||
|
backend = OnnxAsrBackend()
|
||||||
|
backend.create_model("gigaam-v3-e2e-rnnt", "onnx", "int8", cpu_threads=4)
|
||||||
|
|
||||||
|
asr_options = load_asr.call_args.kwargs["sess_options"]
|
||||||
|
vad_options = load_vad.call_args.kwargs["sess_options"]
|
||||||
|
assert asr_options.intra_op_num_threads == 4
|
||||||
|
assert vad_options.intra_op_num_threads == 4
|
||||||
|
assert backend.runtime_info()["intra_op_threads"] == "4"
|
||||||
|
|
||||||
|
def test_zero_thread_budget_keeps_library_session_defaults(self, monkeypatch):
|
||||||
|
"""0 не передаёт SessionOptions: потоки остаются на усмотрение onnxruntime."""
|
||||||
|
load_asr = MagicMock()
|
||||||
|
load_vad = MagicMock()
|
||||||
|
monkeypatch.setattr("onnx_asr.load_model", load_asr)
|
||||||
|
monkeypatch.setattr("onnx_asr.load_vad", load_vad)
|
||||||
|
|
||||||
|
backend = OnnxAsrBackend()
|
||||||
|
backend.create_model("gigaam-v3-e2e-rnnt", "onnx", "int8", cpu_threads=0)
|
||||||
|
|
||||||
|
assert "sess_options" not in load_asr.call_args.kwargs
|
||||||
|
assert "sess_options" not in load_vad.call_args.kwargs
|
||||||
|
assert backend.runtime_info()["intra_op_threads"] == "по умолчанию"
|
||||||
|
|
||||||
def test_wraps_vad_model_with_timestamps(self, monkeypatch):
|
def test_wraps_vad_model_with_timestamps(self, monkeypatch):
|
||||||
timestamped_model = object()
|
timestamped_model = object()
|
||||||
|
|
||||||
@@ -99,7 +150,7 @@ class TestCreateModel:
|
|||||||
return FakeVadAdapter()
|
return FakeVadAdapter()
|
||||||
|
|
||||||
monkeypatch.setattr("onnx_asr.load_model", lambda **kwargs: FakeAsrAdapter())
|
monkeypatch.setattr("onnx_asr.load_model", lambda **kwargs: FakeAsrAdapter())
|
||||||
monkeypatch.setattr("onnx_asr.load_vad", lambda model: object())
|
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: object())
|
||||||
|
|
||||||
model = OnnxAsrBackend().create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
model = OnnxAsrBackend().create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
||||||
|
|
||||||
@@ -127,6 +178,7 @@ class TestCreateModel:
|
|||||||
return self
|
return self
|
||||||
|
|
||||||
monkeypatch.setattr("onnx_asr.load_model", fake_load_model)
|
monkeypatch.setattr("onnx_asr.load_model", fake_load_model)
|
||||||
|
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: None)
|
||||||
|
|
||||||
backend = OnnxAsrBackend()
|
backend = OnnxAsrBackend()
|
||||||
backend.actual_compute_type = "int8"
|
backend.actual_compute_type = "int8"
|
||||||
@@ -637,3 +689,26 @@ class TestModelAliases:
|
|||||||
assert "--device cpu --model medium" in message
|
assert "--device cpu --model medium" in message
|
||||||
assert "--device cuda --model large-v3-turbo" not in message
|
assert "--device cuda --model large-v3-turbo" not in message
|
||||||
assert "--device cpu --model large-v3-turbo" not in message
|
assert "--device cpu --model large-v3-turbo" not in message
|
||||||
|
|
||||||
|
|
||||||
|
class TestRuntimeInfo:
|
||||||
|
def test_reports_versions_and_configured_providers(self, monkeypatch):
|
||||||
|
"""Диагностика различает доступные providers и те, что заданы сессиям ASR и VAD."""
|
||||||
|
monkeypatch.setattr(
|
||||||
|
"onnxruntime.get_available_providers",
|
||||||
|
lambda: ["CoreMLExecutionProvider", "CPUExecutionProvider"],
|
||||||
|
)
|
||||||
|
monkeypatch.setattr("onnx_asr.load_model", lambda **kwargs: MagicMock())
|
||||||
|
monkeypatch.setattr("onnx_asr.load_vad", lambda model, **kwargs: MagicMock())
|
||||||
|
backend = OnnxAsrBackend()
|
||||||
|
backend.actual_compute_type = "int8"
|
||||||
|
backend.create_model("gigaam-v3-e2e-rnnt", "onnx", "int8")
|
||||||
|
|
||||||
|
info = backend.runtime_info()
|
||||||
|
|
||||||
|
assert info["onnxruntime"]
|
||||||
|
assert info["onnx_asr"]
|
||||||
|
assert info["available_providers"] == "CoreMLExecutionProvider, CPUExecutionProvider"
|
||||||
|
assert info["asr_providers"] == "CPUExecutionProvider"
|
||||||
|
assert info["vad_providers"] == "CPUExecutionProvider"
|
||||||
|
assert info["quantization"] == "int8"
|
||||||
@@ -222,6 +222,7 @@ def test_load_speaker_diarizer_keeps_corrupt_cache_when_download_is_invalid(
|
|||||||
|
|
||||||
with (
|
with (
|
||||||
patch("huggingface_hub.cached_assets_path", return_value=tmp_path),
|
patch("huggingface_hub.cached_assets_path", return_value=tmp_path),
|
||||||
|
patch.dict(sys.modules, {"sherpa_onnx": SimpleNamespace()}),
|
||||||
patch("httpx.stream", return_value=FakeResponse()),
|
patch("httpx.stream", return_value=FakeResponse()),
|
||||||
pytest.raises(RuntimeError, match="Контрольная сумма"),
|
pytest.raises(RuntimeError, match="Контрольная сумма"),
|
||||||
):
|
):
|
||||||
|
|||||||
File diff suppressed because it is too large.
Load diff
+471
-294
@@ -4,11 +4,12 @@ from unittest.mock import MagicMock, patch
|
|||||||
import pytest
|
import pytest
|
||||||
|
|
||||||
from local_transcriber.transcriber import (
|
from local_transcriber.transcriber import (
|
||||||
|
ExecutionRequest,
|
||||||
Segment,
|
Segment,
|
||||||
|
Transcriber,
|
||||||
TranscribeResult,
|
TranscribeResult,
|
||||||
_transcribe_file,
|
cuda_error_hint,
|
||||||
ensure_model_available,
|
ensure_model_available,
|
||||||
load_model,
|
|
||||||
transcribe,
|
transcribe,
|
||||||
)
|
)
|
||||||
from local_transcriber.types import WordTimestampsUnavailableError
|
from local_transcriber.types import WordTimestampsUnavailableError
|
||||||
@@ -16,6 +17,21 @@ from local_transcriber.types import WordTimestampsUnavailableError
|
|||||||
# === Helpers ===
|
# === Helpers ===
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize(
|
||||||
|
"error",
|
||||||
|
[RuntimeError("out of memory"), RuntimeError("CUDA unknown error")],
|
||||||
|
)
|
||||||
|
def test_unknown_error_does_not_suggest_cuda_installation(error):
|
||||||
|
"""CPU OOM и неизвестная причина не получают совет по установке CUDA."""
|
||||||
|
assert cuda_error_hint(error) is None
|
||||||
|
|
||||||
|
|
||||||
|
def test_windows_loader_error_suggests_extra():
|
||||||
|
"""OSError загрузчика DLL распознаётся без обёртки RuntimeError."""
|
||||||
|
error = OSError("[WinError 126] Could not find module 'cublas64_12.dll'")
|
||||||
|
assert "uv sync --extra cuda" in cuda_error_hint(error)
|
||||||
|
|
||||||
|
|
||||||
def _make_result(
|
def _make_result(
|
||||||
count: int = 2,
|
count: int = 2,
|
||||||
language: str = "ru",
|
language: str = "ru",
|
||||||
@@ -216,7 +232,7 @@ def test_transcribe_reports_status_transitions(mock_get_backend):
|
|||||||
on_status=statuses.append,
|
on_status=statuses.append,
|
||||||
)
|
)
|
||||||
|
|
||||||
# load_model reports init status, _transcribe_file reports transcribe status
|
# Статусы подготовки и распознавания идут через один callback
|
||||||
assert any("Инициализирую модель" in s for s in statuses)
|
assert any("Инициализирую модель" in s for s in statuses)
|
||||||
assert any("Транскрибирую" in s for s in statuses)
|
assert any("Транскрибирую" in s for s in statuses)
|
||||||
|
|
||||||
@@ -279,101 +295,6 @@ def test_transcribe_strict_cuda_error_during_transcription(mock_get_backend):
|
|||||||
)
|
)
|
||||||
|
|
||||||
|
|
||||||
# === load_model() tests ===
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_cuda_fallback(mock_get_backend):
|
|
||||||
cuda_backend = _make_backend(create_model_error=RuntimeError("CUDA out of memory"))
|
|
||||||
cpu_model = MagicMock()
|
|
||||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return cuda_backend if device == "cuda" else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
model, actual_device, backend, model_path = load_model("tiny", "cuda", "int8")
|
|
||||||
|
|
||||||
assert actual_device == "cpu"
|
|
||||||
assert model is cpu_model
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_strict_raises(mock_get_backend):
|
|
||||||
backend = _make_backend(create_model_error=RuntimeError("CUDA out of memory"))
|
|
||||||
mock_get_backend.return_value = backend
|
|
||||||
|
|
||||||
with pytest.raises(RuntimeError, match="CUDA out of memory"):
|
|
||||||
load_model("tiny", "cuda", "int8", strict_device=True)
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_returns_backend_and_path(mock_get_backend):
|
|
||||||
backend = _make_backend(model_path="/mock/model/path")
|
|
||||||
mock_get_backend.return_value = backend
|
|
||||||
|
|
||||||
model, actual_device, returned_backend, model_path = load_model(
|
|
||||||
"tiny", "cpu", "int8"
|
|
||||||
)
|
|
||||||
|
|
||||||
assert returned_backend is backend
|
|
||||||
assert model_path == "/mock/model/path"
|
|
||||||
assert actual_device == "cpu"
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_passes_cpu_threads_to_backend(mock_get_backend):
|
|
||||||
backend = _make_backend(model_path="/mock/model/path")
|
|
||||||
mock_get_backend.return_value = backend
|
|
||||||
|
|
||||||
load_model("tiny", "cpu", "int8", cpu_threads=8)
|
|
||||||
|
|
||||||
assert backend.create_model.call_args.kwargs["cpu_threads"] == 8
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_fallback_preserves_cpu_threads(mock_get_backend):
|
|
||||||
cuda_backend = _make_backend(create_model_error=RuntimeError("CUDA out of memory"))
|
|
||||||
cpu_model = MagicMock()
|
|
||||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return cuda_backend if device == "cuda" else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
load_model("tiny", "cuda", "int8", cpu_threads=6)
|
|
||||||
|
|
||||||
assert cuda_backend.create_model.call_args.kwargs["cpu_threads"] == 6
|
|
||||||
assert cpu_backend.create_model.call_args.kwargs["cpu_threads"] == 6
|
|
||||||
|
|
||||||
|
|
||||||
# === _transcribe_file() tests ===
|
|
||||||
|
|
||||||
|
|
||||||
def test__transcribe_file_basic():
|
|
||||||
result_data = _make_result(count=2)
|
|
||||||
backend = _make_backend(transcribe_result=result_data)
|
|
||||||
|
|
||||||
tfr = _transcribe_file(
|
|
||||||
model=MagicMock(),
|
|
||||||
actual_device="cpu",
|
|
||||||
backend=backend,
|
|
||||||
model_path="/mock/model",
|
|
||||||
file_path=Path("test.mp3"),
|
|
||||||
model_name="tiny",
|
|
||||||
compute_type="int8",
|
|
||||||
)
|
|
||||||
|
|
||||||
assert len(tfr.result.segments) == 2
|
|
||||||
assert tfr.actual_device == "cpu"
|
|
||||||
assert tfr.backend is backend
|
|
||||||
assert tfr.model_path == "/mock/model"
|
|
||||||
|
|
||||||
|
|
||||||
# === ensure_model_available() tests (через FasterWhisperBackend) ===
|
# === ensure_model_available() tests (через FasterWhisperBackend) ===
|
||||||
|
|
||||||
|
|
||||||
@@ -476,202 +397,6 @@ def test_ensure_model_available_rejects_incomplete_local_directory(tmp_path):
|
|||||||
ensure_model_available(str(model_dir))
|
ensure_model_available(str(model_dir))
|
||||||
|
|
||||||
|
|
||||||
# === Cross-backend fallback (openvino → cpu) ===
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_openvino_gpu_fallback_to_cpu(mock_get_backend):
|
|
||||||
"""OpenVINO GPU ошибка при init → fallback на CPU (FasterWhisper)."""
|
|
||||||
ov_backend = _make_backend(
|
|
||||||
create_model_error=RuntimeError("OpenVINO model load failed"),
|
|
||||||
)
|
|
||||||
cpu_model = MagicMock()
|
|
||||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return ov_backend if device == "openvino-gpu" else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
model, actual_device, backend, model_path = load_model(
|
|
||||||
"medium",
|
|
||||||
"openvino-gpu",
|
|
||||||
"fp16",
|
|
||||||
)
|
|
||||||
|
|
||||||
assert actual_device == "cpu"
|
|
||||||
assert model is cpu_model
|
|
||||||
assert backend is cpu_backend
|
|
||||||
assert model_path == "/mock/cpu/model"
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_openvino_cpu_fallback_to_cpu(mock_get_backend):
|
|
||||||
"""OpenVINO CPU ошибка при init → fallback на CPU (FasterWhisper)."""
|
|
||||||
ov_backend = _make_backend(
|
|
||||||
create_model_error=RuntimeError("OpenVINO model load failed"),
|
|
||||||
)
|
|
||||||
cpu_model = MagicMock()
|
|
||||||
cpu_backend = _make_backend(model=cpu_model, model_path="/mock/cpu/model")
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return ov_backend if device == "openvino-cpu" else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
model, actual_device, backend, model_path = load_model(
|
|
||||||
"medium",
|
|
||||||
"openvino-cpu",
|
|
||||||
"int8",
|
|
||||||
)
|
|
||||||
|
|
||||||
assert actual_device == "cpu"
|
|
||||||
assert model is cpu_model
|
|
||||||
assert backend is cpu_backend
|
|
||||||
assert model_path == "/mock/cpu/model"
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_transcribe_file_openvino_gpu_midstream_fallback(mock_get_backend):
|
|
||||||
"""OpenVINO GPU ошибка при транскрипции → fallback на CPU."""
|
|
||||||
ov_backend = _make_backend(
|
|
||||||
transcribe_error=RuntimeError("OpenVINO inference error"),
|
|
||||||
)
|
|
||||||
cpu_backend = _make_backend(
|
|
||||||
transcribe_result=_make_result(count=2, device_used="cpu"),
|
|
||||||
model_path="/mock/cpu/model",
|
|
||||||
)
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return ov_backend if device.startswith("openvino") else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
tfr = _transcribe_file(
|
|
||||||
model=MagicMock(),
|
|
||||||
actual_device="openvino-gpu",
|
|
||||||
backend=ov_backend,
|
|
||||||
model_path="/mock/ov/model",
|
|
||||||
file_path=Path("test.mp3"),
|
|
||||||
model_name="medium",
|
|
||||||
compute_type="fp16",
|
|
||||||
)
|
|
||||||
|
|
||||||
assert tfr.actual_device == "cpu"
|
|
||||||
assert tfr.backend is cpu_backend
|
|
||||||
assert tfr.model_path == "/mock/cpu/model"
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_transcribe_file_does_not_fallback_for_missing_word_timestamps(
|
|
||||||
mock_get_backend,
|
|
||||||
):
|
|
||||||
ov_backend = _make_backend(
|
|
||||||
transcribe_error=WordTimestampsUnavailableError("нет таймкодов"),
|
|
||||||
)
|
|
||||||
|
|
||||||
with pytest.raises(WordTimestampsUnavailableError, match="нет таймкодов"):
|
|
||||||
_transcribe_file(
|
|
||||||
model=MagicMock(),
|
|
||||||
actual_device="openvino-gpu",
|
|
||||||
backend=ov_backend,
|
|
||||||
model_path="/mock/ov/model",
|
|
||||||
file_path=Path("test.mp3"),
|
|
||||||
model_name="medium",
|
|
||||||
compute_type="fp16",
|
|
||||||
)
|
|
||||||
|
|
||||||
mock_get_backend.assert_not_called()
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_transcribe_file_midstream_fallback_preserves_cpu_threads(mock_get_backend):
|
|
||||||
ov_backend = _make_backend(
|
|
||||||
transcribe_error=RuntimeError("OpenVINO inference error"),
|
|
||||||
)
|
|
||||||
cpu_backend = _make_backend(
|
|
||||||
transcribe_result=_make_result(count=2, device_used="cpu"),
|
|
||||||
model_path="/mock/cpu/model",
|
|
||||||
)
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return ov_backend if device.startswith("openvino") else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
_transcribe_file(
|
|
||||||
model=MagicMock(),
|
|
||||||
actual_device="openvino-gpu",
|
|
||||||
backend=ov_backend,
|
|
||||||
model_path="/mock/ov/model",
|
|
||||||
file_path=Path("test.mp3"),
|
|
||||||
model_name="medium",
|
|
||||||
compute_type="fp16",
|
|
||||||
cpu_threads=6,
|
|
||||||
)
|
|
||||||
|
|
||||||
assert cpu_backend.create_model.call_args.kwargs["cpu_threads"] == 6
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_openvino_gpu_strict_device_no_fallback(mock_get_backend):
|
|
||||||
"""strict_device=True + OpenVINO GPU ошибка → raise."""
|
|
||||||
backend = _make_backend(
|
|
||||||
create_model_error=RuntimeError("OpenVINO model load failed"),
|
|
||||||
)
|
|
||||||
mock_get_backend.return_value = backend
|
|
||||||
|
|
||||||
with pytest.raises(RuntimeError, match="OpenVINO"):
|
|
||||||
load_model("medium", "openvino-gpu", "fp16", strict_device=True)
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_openvino_runtime_error_triggers_fallback(mock_get_backend):
|
|
||||||
"""Любой RuntimeError от OpenVINO бэкенда → fallback."""
|
|
||||||
ov_backend = _make_backend(
|
|
||||||
create_model_error=RuntimeError("Exception from src/inference/..."),
|
|
||||||
)
|
|
||||||
cpu_backend = _make_backend(model_path="/mock/cpu/model")
|
|
||||||
|
|
||||||
def backend_for_device(device, **kwargs):
|
|
||||||
return ov_backend if device.startswith("openvino") else cpu_backend
|
|
||||||
|
|
||||||
mock_get_backend.side_effect = backend_for_device
|
|
||||||
|
|
||||||
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
|
||||||
_, actual_device, _, _ = load_model("medium", "openvino-cpu", "int8")
|
|
||||||
|
|
||||||
assert actual_device == "cpu"
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_resolves_openvino_gpu_device(mock_get_backend):
|
|
||||||
"""load_model обновляет actual_device по backend.actual_ov_device."""
|
|
||||||
backend = _make_backend()
|
|
||||||
backend.actual_ov_device = "GPU"
|
|
||||||
mock_get_backend.return_value = backend
|
|
||||||
|
|
||||||
_, actual_device, _, _ = load_model("medium", "openvino-cpu", "int8")
|
|
||||||
|
|
||||||
assert actual_device == "openvino-gpu"
|
|
||||||
|
|
||||||
|
|
||||||
@patch("local_transcriber.transcriber.get_backend")
|
|
||||||
def test_load_model_resolves_openvino_cpu_device(mock_get_backend):
|
|
||||||
"""load_model обновляет actual_device по backend.actual_ov_device."""
|
|
||||||
backend = _make_backend()
|
|
||||||
backend.actual_ov_device = "CPU"
|
|
||||||
mock_get_backend.return_value = backend
|
|
||||||
|
|
||||||
_, actual_device, _, _ = load_model("medium", "openvino-gpu", "fp16")
|
|
||||||
|
|
||||||
assert actual_device == "openvino-cpu"
|
|
||||||
|
|
||||||
|
|
||||||
def test_ensure_model_available_openvino_default_compute_type():
|
def test_ensure_model_available_openvino_default_compute_type():
|
||||||
"""ensure_model_available(device='openvino-cpu') без compute_type не падает."""
|
"""ensure_model_available(device='openvino-cpu') без compute_type не падает."""
|
||||||
from local_transcriber.backends.openvino import OpenVINOBackend
|
from local_transcriber.backends.openvino import OpenVINOBackend
|
||||||
@@ -681,3 +406,455 @@ def test_ensure_model_available_openvino_default_compute_type():
|
|||||||
repo, ct = backend._resolve_repo("medium", "int8")
|
repo, ct = backend._resolve_repo("medium", "int8")
|
||||||
assert repo == "OpenVINO/whisper-medium-int8-ov"
|
assert repo == "OpenVINO/whisper-medium-int8-ov"
|
||||||
assert ct == "int8"
|
assert ct == "int8"
|
||||||
|
|
||||||
|
|
||||||
|
# === Transcriber: module выполнения ===
|
||||||
|
|
||||||
|
|
||||||
|
def _make_run_backend(**kwargs):
|
||||||
|
"""Fake adapter для external interface: runtime_info возвращает словарь."""
|
||||||
|
backend = _make_backend(**kwargs)
|
||||||
|
backend.runtime_info.return_value = {}
|
||||||
|
backend.engine = "fake-engine"
|
||||||
|
backend.word_timestamps_available = True
|
||||||
|
backend.actual_compute_type = None
|
||||||
|
backend.actual_ov_device = None
|
||||||
|
return backend
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_loads_model_once_for_two_files(mock_get_backend):
|
||||||
|
"""Два файла переиспользуют одну загрузку модели."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
run = Transcriber(ExecutionRequest(device="cpu", model="tiny", compute_type="int8"))
|
||||||
|
first = run.transcribe(Path("a.mp3"))
|
||||||
|
second = run.transcribe(Path("b.mp3"))
|
||||||
|
|
||||||
|
assert backend.create_model.call_count == 1
|
||||||
|
assert backend.transcribe.call_count == 2
|
||||||
|
assert first.device_used == "cpu"
|
||||||
|
assert second.device_used == "cpu"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_does_not_load_model_before_first_file(mock_get_backend):
|
||||||
|
"""Создание module без файлов не загружает модель."""
|
||||||
|
mock_get_backend.return_value = _make_run_backend()
|
||||||
|
|
||||||
|
Transcriber(ExecutionRequest(device="cpu", model="tiny", compute_type="int8"))
|
||||||
|
|
||||||
|
mock_get_backend.assert_not_called()
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_auto_resolves_to_onnx_cpu_with_device_defaults(mock_get_backend):
|
||||||
|
"""auto → ONNX CPU и его модель/квантизация по умолчанию; сведения различают запрошенное и выбранное."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
info = Transcriber(ExecutionRequest()).prepare()
|
||||||
|
|
||||||
|
mock_get_backend.assert_called_once_with("onnx", compute_type_explicit=False)
|
||||||
|
backend.ensure_model_available.assert_called_once_with(
|
||||||
|
"gigaam-v3-e2e-rnnt", "int8", None
|
||||||
|
)
|
||||||
|
assert info.requested_device == "auto"
|
||||||
|
assert info.device == "onnx"
|
||||||
|
assert info.model == "gigaam-v3-e2e-rnnt"
|
||||||
|
assert info.compute_type == "int8"
|
||||||
|
assert info.description == "ONNX (CPU)"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_falls_back_to_cpu_at_load_and_keeps_state_for_next_file(
|
||||||
|
mock_get_backend,
|
||||||
|
):
|
||||||
|
"""Не-strict CUDA-ошибка при загрузке → CPU; следующий файл идёт на CPU без перезагрузки."""
|
||||||
|
cuda_backend = _make_run_backend(
|
||||||
|
create_model_error=RuntimeError("CUDA out of memory")
|
||||||
|
)
|
||||||
|
cpu_backend = _make_run_backend()
|
||||||
|
mock_get_backend.side_effect = lambda device, **_: (
|
||||||
|
cuda_backend if device == "cuda" else cpu_backend
|
||||||
|
)
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(
|
||||||
|
device="cuda",
|
||||||
|
model="tiny",
|
||||||
|
compute_type="int8",
|
||||||
|
strict_device=False,
|
||||||
|
cpu_threads=3,
|
||||||
|
)
|
||||||
|
)
|
||||||
|
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||||
|
first = run.transcribe(Path("a.mp3"))
|
||||||
|
second = run.transcribe(Path("b.mp3"))
|
||||||
|
|
||||||
|
assert first.device_used == "cpu"
|
||||||
|
assert second.device_used == "cpu"
|
||||||
|
assert cpu_backend.create_model.call_count == 1
|
||||||
|
assert cpu_backend.create_model.call_args.kwargs["cpu_threads"] == 3
|
||||||
|
assert run.execution.resolved_device == "cuda"
|
||||||
|
assert run.execution.device == "cpu"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_strict_device_raises_without_fallback(mock_get_backend):
|
||||||
|
"""Явный device (strict по умолчанию) не подменяется другим исполнением."""
|
||||||
|
mock_get_backend.return_value = _make_run_backend(
|
||||||
|
create_model_error=RuntimeError("CUDA driver version is insufficient")
|
||||||
|
)
|
||||||
|
|
||||||
|
with pytest.raises(RuntimeError, match="driver version"):
|
||||||
|
Transcriber(
|
||||||
|
ExecutionRequest(device="cuda", model="tiny", compute_type="int8")
|
||||||
|
).prepare()
|
||||||
|
|
||||||
|
assert mock_get_backend.call_count == 1
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_midstream_fallback_reloads_once_and_continues_batch(mock_get_backend):
|
||||||
|
"""CUDA-ошибка во время распознавания → повтор файла на CPU; батч продолжается на CPU."""
|
||||||
|
cuda_backend = _make_run_backend(
|
||||||
|
transcribe_error=RuntimeError("CUBLAS_STATUS_ALLOC_FAILED")
|
||||||
|
)
|
||||||
|
cpu_backend = _make_run_backend()
|
||||||
|
mock_get_backend.side_effect = lambda device, **_: (
|
||||||
|
cuda_backend if device == "cuda" else cpu_backend
|
||||||
|
)
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(
|
||||||
|
device="cuda", model="tiny", compute_type="int8", strict_device=False
|
||||||
|
)
|
||||||
|
)
|
||||||
|
with pytest.warns(UserWarning, match="Переключение на CPU и повтор"):
|
||||||
|
first = run.transcribe(Path("a.mp3"))
|
||||||
|
second = run.transcribe(Path("b.mp3"))
|
||||||
|
|
||||||
|
assert first.device_used == "cpu"
|
||||||
|
assert second.device_used == "cpu"
|
||||||
|
assert cpu_backend.create_model.call_count == 1
|
||||||
|
assert cpu_backend.transcribe.call_count == 2
|
||||||
|
assert run.execution.device == "cpu"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_ordinary_file_error_does_not_change_state(mock_get_backend):
|
||||||
|
"""Ошибка файла (не движка) пробрасывается, модель и исполнение остаются прежними."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.transcribe.side_effect = [
|
||||||
|
ValueError("Не удалось декодировать"),
|
||||||
|
_make_result(),
|
||||||
|
]
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(
|
||||||
|
device="cuda", model="tiny", compute_type="int8", strict_device=False
|
||||||
|
)
|
||||||
|
)
|
||||||
|
with pytest.raises(ValueError, match="декодировать"):
|
||||||
|
run.transcribe(Path("bad.mp3"))
|
||||||
|
result = run.transcribe(Path("good.mp3"))
|
||||||
|
|
||||||
|
assert result.device_used == "cuda"
|
||||||
|
assert backend.create_model.call_count == 1
|
||||||
|
assert mock_get_backend.call_count == 1
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_word_timestamps_error_is_not_a_fallback_reason(mock_get_backend):
|
||||||
|
"""Нарушение пословного контракта не считается ошибкой движка."""
|
||||||
|
mock_get_backend.return_value = _make_run_backend(
|
||||||
|
transcribe_error=WordTimestampsUnavailableError("нет слов")
|
||||||
|
)
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(
|
||||||
|
device="cuda", model="tiny", compute_type="int8", strict_device=False
|
||||||
|
)
|
||||||
|
)
|
||||||
|
with pytest.raises(WordTimestampsUnavailableError):
|
||||||
|
run.transcribe(Path("a.mp3"))
|
||||||
|
|
||||||
|
assert mock_get_backend.call_count == 1
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_requires_word_timestamps_before_first_file(mock_get_backend):
|
||||||
|
"""Требование пословного контракта проверяется при подготовке, ASR не запускается."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.word_timestamps_available = False
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(
|
||||||
|
device="onnx", model="some/raw-model", require_word_timestamps=True
|
||||||
|
)
|
||||||
|
)
|
||||||
|
with pytest.raises(ValueError, match="пословные таймкоды"):
|
||||||
|
run.transcribe(Path("a.mp3"))
|
||||||
|
|
||||||
|
backend.transcribe.assert_not_called()
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_reports_actual_openvino_device(mock_get_backend):
|
||||||
|
"""openvino-gpu, выбранный до загрузки, уточняется по фактическому устройству OpenVINO."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.actual_ov_device = "CPU"
|
||||||
|
backend.actual_compute_type = "int8"
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
with patch(
|
||||||
|
"local_transcriber.transcriber.detect_device", return_value="openvino-gpu"
|
||||||
|
):
|
||||||
|
info = Transcriber(
|
||||||
|
ExecutionRequest(device="openvino", model="medium")
|
||||||
|
).prepare()
|
||||||
|
|
||||||
|
assert info.requested_device == "openvino"
|
||||||
|
assert info.resolved_device == "openvino-gpu"
|
||||||
|
assert info.device == "openvino-cpu"
|
||||||
|
assert info.compute_type == "int8"
|
||||||
|
assert info.description == "OpenVINO (CPU)"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_gpu_name", return_value="RTX 3060")
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_exposes_runtime_and_gpu_name_from_module_data(mock_get_backend, _gpu):
|
||||||
|
"""Сведения о runtime берутся из adapter'а, имя GPU — из драйвера, потоки — из запроса."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.runtime_info.return_value = {"ctranslate2": "4.5.0"}
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
info = Transcriber(
|
||||||
|
ExecutionRequest(
|
||||||
|
device="cuda", model="tiny", compute_type="float16", cpu_threads=4
|
||||||
|
)
|
||||||
|
).prepare()
|
||||||
|
|
||||||
|
assert info.description == "CUDA (RTX 3060)"
|
||||||
|
assert info.runtime == {"ctranslate2": "4.5.0"}
|
||||||
|
assert info.cpu_threads == 4
|
||||||
|
backend.create_model.assert_called_once_with(
|
||||||
|
"/mock/model", "cuda", "float16", cpu_threads=4
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_passes_auto_language_as_none(mock_get_backend):
|
||||||
|
backend = _make_run_backend()
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
Transcriber(
|
||||||
|
ExecutionRequest(device="cpu", model="tiny", language="auto")
|
||||||
|
).transcribe(Path("a.mp3"))
|
||||||
|
|
||||||
|
assert backend.transcribe.call_args[0][2] is None
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_public_transcribe_uses_the_same_execution_module(mock_get_backend):
|
||||||
|
"""transcribe() без параметров идёт тем же путём, что CLI по умолчанию: ONNX CPU."""
|
||||||
|
backend = _make_run_backend(transcribe_result=_make_result(count=1))
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
result = transcribe(Path("a.mp3"))
|
||||||
|
|
||||||
|
mock_get_backend.assert_called_once_with("onnx", compute_type_explicit=False)
|
||||||
|
backend.ensure_model_available.assert_called_once_with(
|
||||||
|
"gigaam-v3-e2e-rnnt", "int8", None
|
||||||
|
)
|
||||||
|
assert result.device_used == "onnx"
|
||||||
|
assert len(result.segments) == 1
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize(
|
||||||
|
("device", "ov_device", "gpu_name", "intel_name", "expected"),
|
||||||
|
[
|
||||||
|
("cpu", None, None, None, "CPU"),
|
||||||
|
("onnx", None, "RTX 3060", None, "ONNX (CPU)"),
|
||||||
|
("cuda", None, "RTX 3060", None, "CUDA (RTX 3060)"),
|
||||||
|
("cuda", None, None, None, "CUDA (Unknown GPU)"),
|
||||||
|
("openvino-gpu", "GPU", None, "Intel Arc 140T", "OpenVINO (Intel Arc 140T)"),
|
||||||
|
("openvino-gpu", "GPU", None, None, "OpenVINO (Intel GPU)"),
|
||||||
|
("openvino-cpu", "CPU", None, None, "OpenVINO (CPU)"),
|
||||||
|
],
|
||||||
|
)
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_description_names_hardware_only_from_driver_data(
|
||||||
|
mock_get_backend, device, ov_device, gpu_name, intel_name, expected
|
||||||
|
):
|
||||||
|
"""Строка исполнения для шапки: ONNX не выдаётся за CPU faster-whisper, GPU — по драйверу."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.actual_ov_device = ov_device
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
with (
|
||||||
|
patch("local_transcriber.transcriber.get_gpu_name", return_value=gpu_name),
|
||||||
|
patch("local_transcriber.transcriber.get_intel_gpu_name", return_value=intel_name),
|
||||||
|
):
|
||||||
|
info = Transcriber(ExecutionRequest(device=device, model="m")).prepare()
|
||||||
|
|
||||||
|
assert info.description == expected
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_openvino_runtime_error_falls_back_when_not_strict(mock_get_backend):
|
||||||
|
"""Любой RuntimeError OpenVINO считается ошибкой движка: не-strict запуск уходит на CPU."""
|
||||||
|
ov_backend = _make_run_backend(
|
||||||
|
create_model_error=RuntimeError("Exception from src/inference/src/core.cpp")
|
||||||
|
)
|
||||||
|
cpu_backend = _make_run_backend()
|
||||||
|
mock_get_backend.side_effect = lambda device, **_: (
|
||||||
|
ov_backend if device.startswith("openvino") else cpu_backend
|
||||||
|
)
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(device="openvino-gpu", model="medium", strict_device=False)
|
||||||
|
)
|
||||||
|
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||||
|
result = run.transcribe(Path("a.mp3"))
|
||||||
|
|
||||||
|
assert result.device_used == "cpu"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_openvino_strict_raises_without_fallback(mock_get_backend):
|
||||||
|
mock_get_backend.return_value = _make_run_backend(
|
||||||
|
create_model_error=RuntimeError("GPU plugin failed")
|
||||||
|
)
|
||||||
|
|
||||||
|
with pytest.raises(RuntimeError, match="GPU plugin"):
|
||||||
|
Transcriber(ExecutionRequest(device="openvino-gpu", model="medium")).prepare()
|
||||||
|
|
||||||
|
assert mock_get_backend.call_count == 1
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_reports_openvino_gpu_chosen_for_cpu_request(mock_get_backend):
|
||||||
|
"""Фактическое устройство OpenVINO важнее запрошенного и в обратную сторону."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.actual_ov_device = "GPU"
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
info = Transcriber(ExecutionRequest(device="openvino-cpu", model="medium")).prepare()
|
||||||
|
|
||||||
|
assert info.resolved_device == "openvino-cpu"
|
||||||
|
assert info.device == "openvino-gpu"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_fallback_rederives_implicit_compute_type_for_cpu(mock_get_backend):
|
||||||
|
"""Неявный compute_type следует за фактическим устройством: CPU не получает float16."""
|
||||||
|
cuda_backend = _make_run_backend(create_model_error=RuntimeError("CUDA error"))
|
||||||
|
cpu_backend = _make_run_backend()
|
||||||
|
mock_get_backend.side_effect = lambda device, **_: (
|
||||||
|
cuda_backend if device == "cuda" else cpu_backend
|
||||||
|
)
|
||||||
|
|
||||||
|
run = Transcriber(ExecutionRequest(device="cuda", strict_device=False))
|
||||||
|
with pytest.warns(UserWarning, match="Переключение на CPU"):
|
||||||
|
info = run.prepare()
|
||||||
|
|
||||||
|
cuda_backend.ensure_model_available.assert_called_once_with("medium", "float16", None)
|
||||||
|
cpu_backend.ensure_model_available.assert_called_once_with("medium", "float32", None)
|
||||||
|
assert info.compute_type == "float32"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_fallback_keeps_explicit_compute_type(mock_get_backend):
|
||||||
|
cuda_backend = _make_run_backend(create_model_error=RuntimeError("CUDA error"))
|
||||||
|
cpu_backend = _make_run_backend()
|
||||||
|
mock_get_backend.side_effect = lambda device, **_: (
|
||||||
|
cuda_backend if device == "cuda" else cpu_backend
|
||||||
|
)
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(device="cuda", compute_type="int8", strict_device=False)
|
||||||
|
)
|
||||||
|
with pytest.warns(UserWarning):
|
||||||
|
run.prepare()
|
||||||
|
|
||||||
|
cpu_backend.ensure_model_available.assert_called_once_with("medium", "int8", None)
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_failed_capability_check_does_not_mark_module_prepared(mock_get_backend):
|
||||||
|
"""После отказа по пословному контракту повторный вызов не запускает ASR."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.word_timestamps_available = False
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
run = Transcriber(
|
||||||
|
ExecutionRequest(device="onnx", model="some/raw-model", require_word_timestamps=True)
|
||||||
|
)
|
||||||
|
with pytest.raises(ValueError, match="пословные таймкоды"):
|
||||||
|
run.prepare()
|
||||||
|
with pytest.raises(ValueError, match="пословные таймкоды"):
|
||||||
|
run.transcribe(Path("a.mp3"))
|
||||||
|
|
||||||
|
backend.transcribe.assert_not_called()
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize(
|
||||||
|
("device", "model", "compute_type"),
|
||||||
|
[
|
||||||
|
("cpu", "medium", "float32"),
|
||||||
|
("cuda", "medium", "float16"),
|
||||||
|
("openvino-cpu", "medium", "int8"),
|
||||||
|
("openvino-gpu", "medium", "int8"),
|
||||||
|
("onnx", "gigaam-v3-e2e-rnnt", "int8"),
|
||||||
|
],
|
||||||
|
)
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_applies_device_defaults_when_request_leaves_them_empty(
|
||||||
|
mock_get_backend, device, model, compute_type
|
||||||
|
):
|
||||||
|
backend = _make_run_backend()
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
Transcriber(ExecutionRequest(device=device)).prepare()
|
||||||
|
|
||||||
|
mock_get_backend.assert_called_once_with(device, compute_type_explicit=False)
|
||||||
|
backend.ensure_model_available.assert_called_once_with(model, compute_type, None)
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_explicit_values_override_device_defaults(mock_get_backend):
|
||||||
|
backend = _make_run_backend()
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
Transcriber(ExecutionRequest(device="cuda", model="large-v3", compute_type="int8")).prepare()
|
||||||
|
|
||||||
|
mock_get_backend.assert_called_once_with("cuda", compute_type_explicit=True)
|
||||||
|
backend.ensure_model_available.assert_called_once_with("large-v3", "int8", None)
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_engine_comes_from_adapter(mock_get_backend):
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.engine = "openvino"
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
info = Transcriber(ExecutionRequest(device="openvino-cpu", model="medium")).prepare()
|
||||||
|
|
||||||
|
assert info.engine == "openvino"
|
||||||
|
|
||||||
|
|
||||||
|
@patch("local_transcriber.transcriber.get_backend")
|
||||||
|
def test_run_diagnostics_failure_does_not_fail_the_run(mock_get_backend):
|
||||||
|
"""Сбой сбора runtime_info не роняет распознавание, а попадает в сведения."""
|
||||||
|
backend = _make_run_backend()
|
||||||
|
backend.runtime_info.side_effect = RuntimeError("plugin enumeration failed")
|
||||||
|
mock_get_backend.return_value = backend
|
||||||
|
|
||||||
|
info = Transcriber(ExecutionRequest(device="cpu", model="tiny")).prepare()
|
||||||
|
|
||||||
|
assert "plugin enumeration failed" in info.runtime["diagnostics"]
|
||||||
+5
-5
@@ -66,17 +66,17 @@ def test_detect_device_explicit_passthrough():
|
|||||||
assert detect_device("openvino-cpu") == "openvino-cpu"
|
assert detect_device("openvino-cpu") == "openvino-cpu"
|
||||||
|
|
||||||
|
|
||||||
def test_detect_device_auto_cuda_when_nvidia_smi_available():
|
def test_detect_device_auto_onnx_when_nvidia_smi_available():
|
||||||
"""При доступном nvidia-smi auto выбирает CUDA."""
|
"""При доступном nvidia-smi auto остаётся на ONNX CPU."""
|
||||||
with patch(
|
with patch(
|
||||||
"local_transcriber.utils.shutil.which", return_value="/usr/bin/nvidia-smi"
|
"shutil.which", return_value="/usr/bin/nvidia-smi"
|
||||||
):
|
):
|
||||||
assert detect_device("auto") == "cuda"
|
assert detect_device("auto") == "onnx"
|
||||||
|
|
||||||
|
|
||||||
def test_detect_device_auto_onnx_without_cuda():
|
def test_detect_device_auto_onnx_without_cuda():
|
||||||
"""Без CUDA auto выбирает ONNX CPU."""
|
"""Без CUDA auto выбирает ONNX CPU."""
|
||||||
with patch("local_transcriber.utils.shutil.which", return_value=None):
|
with patch("shutil.which", return_value=None):
|
||||||
assert detect_device("auto") == "onnx"
|
assert detect_device("auto") == "onnx"
|
||||||
|
|
||||||
|
|
||||||
|
|||||||
@@ -1,13 +1,17 @@
|
|||||||
version = 1
|
version = 1
|
||||||
revision = 3
|
revision = 3
|
||||||
requires-python = ">=3.13"
|
requires-python = ">=3.13"
|
||||||
|
resolution-markers = [
|
||||||
|
"python_full_version >= '3.14'",
|
||||||
|
"python_full_version < '3.14'",
|
||||||
|
]
|
||||||
|
|
||||||
[manifest]
|
[manifest]
|
||||||
|
|
||||||
[[manifest.dependency-metadata]]
|
[[manifest.dependency-metadata]]
|
||||||
name = "sherpa-onnx"
|
name = "sherpa-onnx"
|
||||||
version = "1.13.5"
|
version = "1.13.6"
|
||||||
requires-dist = ["sherpa-onnx-core==1.13.5"]
|
requires-dist = ["sherpa-onnx-core==1.13.6"]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "annotated-doc"
|
name = "annotated-doc"
|
||||||
@@ -260,14 +264,33 @@ wheels = [
|
|||||||
{ url = "https://files.pythonhosted.org/packages/cb/b1/3846dd7f199d53cb17f49cba7e651e9ce294d8497c8c150530ed11865bb8/iniconfig-2.3.0-py3-none-any.whl", hash = "sha256:f631c04d2c48c52b84d0d0549c99ff3859c98df65b3101406327ecc7d53fbf12", size = 7484, upload-time = "2025-10-18T21:55:41.639Z" },
|
{ url = "https://files.pythonhosted.org/packages/cb/b1/3846dd7f199d53cb17f49cba7e651e9ce294d8497c8c150530ed11865bb8/iniconfig-2.3.0-py3-none-any.whl", hash = "sha256:f631c04d2c48c52b84d0d0549c99ff3859c98df65b3101406327ecc7d53fbf12", size = 7484, upload-time = "2025-10-18T21:55:41.639Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
|
[[package]]
|
||||||
|
name = "kaldi-native-fbank"
|
||||||
|
version = "1.22.3"
|
||||||
|
source = { registry = "https://pypi.org/simple" }
|
||||||
|
sdist = { url = "https://files.pythonhosted.org/packages/3a/2c/84076b352107ce12d56f28c313f1aca1be332d953dd96aec7b84976e6d53/kaldi-native-fbank-1.22.3.tar.gz", hash = "sha256:387bf87225c6b83c93ae652eeaef1b4d531994b6e398e7a77189de340674f9af", size = 71013, upload-time = "2025-10-09T02:31:21.487Z" }
|
||||||
|
wheels = [
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/0d/df/4110f685067946c8b2e59ed76cebdf51c979ae999d90f65208a9d1966cba/kaldi_native_fbank-1.22.3-cp313-cp313-macosx_10_15_x86_64.whl", hash = "sha256:78ca163686a4aa1693194d098aa79b517845d851aa6fd27d5b162c05e1012361", size = 249056, upload-time = "2025-10-09T02:28:02.202Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d8/74/ef21aabdd2f32539735e2ed4d3ea072112d4e3d30dfc2d17695f6d9df072/kaldi_native_fbank-1.22.3-cp313-cp313-macosx_11_0_arm64.whl", hash = "sha256:3768ea99933aa25080cb820f93f7b612968633b9a4fa23bc8a7337e2137f3fbb", size = 229011, upload-time = "2025-10-09T02:31:50.593Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/9a/72/adb11d27c545aca1db442da744ee430a6aae377a33574bfd2ec159dcf673/kaldi_native_fbank-1.22.3-cp313-cp313-manylinux2014_aarch64.manylinux_2_17_aarch64.whl", hash = "sha256:f74b85948328ab4b4c88522f98a59f83dd5295443b08483e945c7de2c35e5dcc", size = 299276, upload-time = "2025-10-09T02:30:38.1Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/bc/1e/496c7ae814b2a7f8f47d423dc33aae2cdfb1edf898e2faaf5c5b39b90363/kaldi_native_fbank-1.22.3-cp313-cp313-manylinux2014_x86_64.manylinux_2_17_x86_64.whl", hash = "sha256:e3f9c6551ff5b6ae785dd15f819c3b2b7432d77bfb79ea8806748e2c7d900b5d", size = 322714, upload-time = "2025-10-09T02:30:32.698Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/75/47/3fcb52e0ef081efa40b4ca5c04f207509d31157f33f3ac314578d93794f9/kaldi_native_fbank-1.22.3-cp313-cp313-win32.whl", hash = "sha256:a63d5bd6b5bd5f7c0e0af886c12c3f686fbc62347f6b886fed2694ab2f0dbd14", size = 273293, upload-time = "2025-10-09T02:30:13.979Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/63/48/20bfa3f8d88605e2ec2c274c343dec1f112077e687440d64d3caa4b9136c/kaldi_native_fbank-1.22.3-cp313-cp313-win_amd64.whl", hash = "sha256:4fb769337c7d482166ada8ba041003e4a9de3a778dc970b6b5802a382e581724", size = 308032, upload-time = "2025-10-09T02:29:03.278Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b9/7e/d47f64d5332b2527e6b65490888d99793eb3280bca735d0b69348eaeb6a3/kaldi_native_fbank-1.22.3-cp314-cp314-macosx_10_15_x86_64.whl", hash = "sha256:2efa8368cdd46a32c37a28c4baaa508b0a294ab1ca2aefddd3e97f62cfebc27b", size = 249216, upload-time = "2025-10-09T02:28:22.008Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/78/9f/f98f72ba5a90a39675e82f2175dc5ec99a85892a88b9ccdd25f2dc916c82/kaldi_native_fbank-1.22.3-cp314-cp314-macosx_11_0_arm64.whl", hash = "sha256:8f6086073ec658a23d22f8657b3ee8c6ba69d65be57324a7284209ac7424b5ac", size = 229289, upload-time = "2025-10-09T02:31:17.012Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d6/4b/1f3f17a7b601124df88112a1d1fcb543c8d908d6674f752f7d3322991770/kaldi_native_fbank-1.22.3-cp314-cp314-manylinux2014_aarch64.manylinux_2_17_aarch64.whl", hash = "sha256:41fb506fde155d97aeef95dd6ceccc38c2c5dd4401f9b8fded9bacaf1bafef36", size = 300037, upload-time = "2025-10-09T02:30:10.203Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/2b/6a/374ec4e1cf13e672f5acd8272116c1885c2a7f84be491fc652415fc6e870/kaldi_native_fbank-1.22.3-cp314-cp314-manylinux2014_x86_64.manylinux_2_17_x86_64.whl", hash = "sha256:f1cc2b8eeec52a33868cf59bb95d40b335fa9cff7e15a6208e0e9b67b7fd7236", size = 322854, upload-time = "2025-10-09T02:31:26.003Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/63/2a/edd85a2292d2af28af68214a3bdd029ab8ce2e6bc5aaac77255aa57ce964/kaldi_native_fbank-1.22.3-cp314-cp314-win32.whl", hash = "sha256:d6387ab52b56e2978524590e11b24cf03419d9e9361965bc8d6ff34ff9e867da", size = 279733, upload-time = "2025-10-09T02:29:41.855Z" },
|
||||||
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "local-transcriber"
|
name = "local-transcriber"
|
||||||
version = "0.1.0"
|
version = "0.1.0"
|
||||||
source = { editable = "." }
|
source = { editable = "." }
|
||||||
dependencies = [
|
dependencies = [
|
||||||
|
{ name = "ctranslate2" },
|
||||||
{ name = "faster-whisper" },
|
{ name = "faster-whisper" },
|
||||||
{ name = "httpx" },
|
{ name = "httpx" },
|
||||||
{ name = "nvidia-cublas-cu12", marker = "platform_machine == 'x86_64' and sys_platform == 'linux'" },
|
|
||||||
{ name = "onnx-asr", extra = ["cpu", "hub"] },
|
{ name = "onnx-asr", extra = ["cpu", "hub"] },
|
||||||
{ name = "onnxruntime" },
|
{ name = "onnxruntime" },
|
||||||
{ name = "openvino-genai", marker = "(platform_machine == 'AMD64' and sys_platform != 'darwin') or (platform_machine == 'x86_64' and sys_platform != 'darwin')" },
|
{ name = "openvino-genai", marker = "(platform_machine == 'AMD64' and sys_platform != 'darwin') or (platform_machine == 'x86_64' and sys_platform != 'darwin')" },
|
||||||
@@ -277,28 +300,41 @@ dependencies = [
|
|||||||
{ name = "typer" },
|
{ name = "typer" },
|
||||||
]
|
]
|
||||||
|
|
||||||
|
[package.optional-dependencies]
|
||||||
|
cuda = [
|
||||||
|
{ name = "nvidia-cublas-cu12", marker = "(platform_machine == 'x86_64' and sys_platform == 'linux') or (platform_machine == 'AMD64' and sys_platform == 'win32') or (platform_machine == 'x86_64' and sys_platform == 'win32')" },
|
||||||
|
]
|
||||||
|
|
||||||
[package.dev-dependencies]
|
[package.dev-dependencies]
|
||||||
dev = [
|
dev = [
|
||||||
|
{ name = "kaldi-native-fbank" },
|
||||||
|
{ name = "numpy" },
|
||||||
|
{ name = "onnx" },
|
||||||
{ name = "psutil" },
|
{ name = "psutil" },
|
||||||
{ name = "pytest" },
|
{ name = "pytest" },
|
||||||
]
|
]
|
||||||
|
|
||||||
[package.metadata]
|
[package.metadata]
|
||||||
requires-dist = [
|
requires-dist = [
|
||||||
|
{ name = "ctranslate2", specifier = "==4.8.1" },
|
||||||
{ name = "faster-whisper", specifier = ">=1.2.1,<2" },
|
{ name = "faster-whisper", specifier = ">=1.2.1,<2" },
|
||||||
{ name = "httpx", specifier = ">=0.28,<1" },
|
{ name = "httpx", specifier = ">=0.28,<1" },
|
||||||
{ name = "nvidia-cublas-cu12", marker = "platform_machine == 'x86_64' and sys_platform == 'linux'", specifier = ">=12.4,<13" },
|
{ name = "nvidia-cublas-cu12", marker = "(platform_machine == 'x86_64' and sys_platform == 'linux' and extra == 'cuda') or (platform_machine == 'AMD64' and sys_platform == 'win32' and extra == 'cuda') or (platform_machine == 'x86_64' and sys_platform == 'win32' and extra == 'cuda')", specifier = "==12.9.1.4" },
|
||||||
{ name = "onnx-asr", extras = ["cpu", "hub"], specifier = ">=0.12,<0.13" },
|
{ name = "onnx-asr", extras = ["cpu", "hub"], specifier = ">=0.12,<0.13" },
|
||||||
{ name = "onnxruntime", specifier = ">=1.28,<2" },
|
{ name = "onnxruntime", specifier = ">=1.28,<2" },
|
||||||
{ name = "openvino-genai", marker = "(platform_machine == 'AMD64' and sys_platform != 'darwin') or (platform_machine == 'x86_64' and sys_platform != 'darwin')", specifier = ">=2026.3.0.0,<2026.4" },
|
{ name = "openvino-genai", marker = "(platform_machine == 'AMD64' and sys_platform != 'darwin') or (platform_machine == 'x86_64' and sys_platform != 'darwin')", specifier = ">=2026.3.0.0,<2026.4" },
|
||||||
{ name = "rich", specifier = ">=14.3.3,<15" },
|
{ name = "rich", specifier = ">=14.3.3,<15" },
|
||||||
{ name = "sherpa-onnx", specifier = "==1.13.5" },
|
{ name = "sherpa-onnx", specifier = "==1.13.6" },
|
||||||
{ name = "socksio", specifier = ">=1.0.0,<2" },
|
{ name = "socksio", specifier = ">=1.0.0,<2" },
|
||||||
{ name = "typer", specifier = ">=0.24.1,<1" },
|
{ name = "typer", specifier = ">=0.24.1,<1" },
|
||||||
]
|
]
|
||||||
|
provides-extras = ["cuda"]
|
||||||
|
|
||||||
[package.metadata.requires-dev]
|
[package.metadata.requires-dev]
|
||||||
dev = [
|
dev = [
|
||||||
|
{ name = "kaldi-native-fbank", specifier = ">=1.22,<2" },
|
||||||
|
{ name = "numpy", specifier = "==2.4.3" },
|
||||||
|
{ name = "onnx", specifier = ">=1.18,<2" },
|
||||||
{ name = "psutil", specifier = ">=7,<8" },
|
{ name = "psutil", specifier = ">=7,<8" },
|
||||||
{ name = "pytest" },
|
{ name = "pytest" },
|
||||||
]
|
]
|
||||||
@@ -324,6 +360,42 @@ wheels = [
|
|||||||
{ url = "https://files.pythonhosted.org/packages/b3/38/89ba8ad64ae25be8de66a6d463314cf1eb366222074cfda9ee839c56a4b4/mdurl-0.1.2-py3-none-any.whl", hash = "sha256:84008a41e51615a49fc9966191ff91509e3c40b939176e643fd50a5c2196b8f8", size = 9979, upload-time = "2022-08-14T12:40:09.779Z" },
|
{ url = "https://files.pythonhosted.org/packages/b3/38/89ba8ad64ae25be8de66a6d463314cf1eb366222074cfda9ee839c56a4b4/mdurl-0.1.2-py3-none-any.whl", hash = "sha256:84008a41e51615a49fc9966191ff91509e3c40b939176e643fd50a5c2196b8f8", size = 9979, upload-time = "2022-08-14T12:40:09.779Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
|
[[package]]
|
||||||
|
name = "ml-dtypes"
|
||||||
|
version = "0.6.0"
|
||||||
|
source = { registry = "https://pypi.org/simple" }
|
||||||
|
dependencies = [
|
||||||
|
{ name = "numpy" },
|
||||||
|
]
|
||||||
|
sdist = { url = "https://files.pythonhosted.org/packages/12/72/307d7c4bd0600601c7133fba5cb78af7db968152951c1cd473abb1cda782/ml_dtypes-0.6.0.tar.gz", hash = "sha256:5e60251d32ced5598972e4d5e06a2f044341f9291402551a3f6f0ec44f9299b0", size = 3032327, upload-time = "2026-08-13T14:14:40.215Z" }
|
||||||
|
wheels = [
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/50/51/fd1582b8f5ed8a9e7be0e161a6ea0dff70cb280479a12178df0b3a72700e/ml_dtypes-0.6.0-cp313-cp313-macosx_10_13_universal2.whl", hash = "sha256:084dfe51a7ad58b171f05115f8226ed4233a454a1611371947e806e76f0c638d", size = 565468, upload-time = "2026-08-13T14:14:08.5Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d2/22/20fd70ca6ed12446cb92d5b2a7745bd185f9d8b8cdeeadad976574398e6b/ml_dtypes-0.6.0-cp313-cp313-manylinux_2_27_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:28d676428b104bb9717b0928bc5c5129f2d6b51b6727587cc4289e7bf8713cb5", size = 360232, upload-time = "2026-08-13T14:14:09.873Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/89/a5/da8ae6c6f1babe4b68e3e55d43d39b529e29774f10e0910671a6b8c86eb8/ml_dtypes-0.6.0-cp313-cp313-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:26b1f1fa4f0435a2946859823f6e2bf06796f1e9f10f5a05b08a5e3c8f46ff69", size = 410169, upload-time = "2026-08-13T14:14:11.036Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/e2/55/4561acefa00fa4bcbfb82ca6a48578b41f372cd7dd7cdd6eb4720abc2e5f/ml_dtypes-0.6.0-cp313-cp313-win_amd64.whl", hash = "sha256:fb87f46b4f7ad7b5d3ad8f4b452b024bd4229d44c8ff934798c1fe656210387a", size = 439357, upload-time = "2026-08-13T14:14:12.172Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b1/5d/6a01538e507ef0ed5e879985b13a92467bf8960696fb1131f8b8cadc60ff/ml_dtypes-0.6.0-cp313-cp313-win_arm64.whl", hash = "sha256:57ed0d6b4ac5e7868361303a9c57fbcf63b768236ee14456f585dfcf260d0292", size = 552278, upload-time = "2026-08-13T14:14:13.539Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d9/7a/97dc35667b7c9db33c5344c673cd27f87e34771875ea7100138726132ac9/ml_dtypes-0.6.0-cp314-cp314-macosx_10_15_universal2.whl", hash = "sha256:84fa136b8602c8c39e3b6cb24918960cd6f36cade7a70376f56770729cd56510", size = 562551, upload-time = "2026-08-13T14:14:14.774Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/db/48/77f0ede10558d0d935da2e3276ed7e9c8cc2bad3463b9a0b66b03fc60be2/ml_dtypes-0.6.0-cp314-cp314-manylinux_2_27_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:317be9967fb84b0ce4e80e6b1bf71213d21971621cf6f1e501a63602a95297bf", size = 360334, upload-time = "2026-08-13T14:14:16.079Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/1c/b1/1831dd8c9b06c013085d31a2ac4f03392d43bd36bfc6ff591a08bcedc1cf/ml_dtypes-0.6.0-cp314-cp314-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:8f490c003369ce60e514a0c3b12374f05274c101fee1bead6740ec8a564032b0", size = 409966, upload-time = "2026-08-13T14:14:17.477Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/ff/ad/9c32c53f823dda3742df19a79c10bc198365937873ea125ba65747440c23/ml_dtypes-0.6.0-cp314-cp314-win_amd64.whl", hash = "sha256:d574c2b28921dc72e869df248f1a278f6eee176a1f237c8642e1a71eb15f3977", size = 457224, upload-time = "2026-08-13T14:14:18.608Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/41/3d/dd98205418a13353d41c52bf5326d8cbec515aace46174e23c6ea01c2978/ml_dtypes-0.6.0-cp314-cp314-win_arm64.whl", hash = "sha256:f4adb4af61516510d786cf8c01851a66f6d3ddfa79e1144deaa5b40d8507231e", size = 568378, upload-time = "2026-08-13T14:14:19.843Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/65/36/32e7beef3281fed74883451477ad976364323206dbfaa95e948ba788dac7/ml_dtypes-0.6.0-cp314-cp314t-macosx_10_15_universal2.whl", hash = "sha256:3e169214e0d80ff1c038e1b3017e33c23e43bdf948d42d31de8283111c7e2fa3", size = 590177, upload-time = "2026-08-13T14:14:20.971Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d7/a2/99b3d9b3c984b3bd1e81d8244f1fa2f812e44060d853205b2df6271aa17c/ml_dtypes-0.6.0-cp314-cp314t-manylinux_2_27_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:573b11f3c327e17ef3826d266e676cf1149a1f3016f822a05f2306c55d8246bf", size = 363142, upload-time = "2026-08-13T14:14:22.463Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/0c/fb/8091c0aee7f2712de99c7fd4b1642382644dec6a4962effe4f5b9d16a973/ml_dtypes-0.6.0-cp314-cp314t-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:b76fa1d3f92967d58289ac47ab7458ede66e6f3527fff3e59142aee57d9307cd", size = 430645, upload-time = "2026-08-13T14:14:23.737Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/c4/6f/962d2c589513b5930d05b6eae5fbd22ad8bbcf26bb763449f3d8f912360f/ml_dtypes-0.6.0-cp314-cp314t-win_amd64.whl", hash = "sha256:3be9911d953f97cddded4b9961d7b650473b7e55806d20f6176f8356dfe7b38e", size = 465667, upload-time = "2026-08-13T14:14:25.04Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/aa/ca/bcb25e246edd19af5fa1cf6267040bd9977a7afca846e6cfd4a52078b44f/ml_dtypes-0.6.0-cp314-cp314t-win_arm64.whl", hash = "sha256:e74266ca8e97874a937b7646378c178025650a236584f7474d10d8086a6edea3", size = 572706, upload-time = "2026-08-13T14:14:26.296Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/12/42/46cb442648e3c774d8cb25f2e1e41d496cdcc91fbe9c2a6f75c0b8df7af6/ml_dtypes-0.6.0-cp315-cp315-macosx_10_15_universal2.whl", hash = "sha256:b1b503864fada3f74fabf8d9fee7b4c1cbe956301e6fdece975d5f77c2fce958", size = 562550, upload-time = "2026-08-13T14:14:27.542Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/07/56/844eff5af7a2d1a09d75df12c70225c3a6b6a771f95876b2bf5f7d10ad44/ml_dtypes-0.6.0-cp315-cp315-manylinux_2_27_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:9c6ad60af4102789a5c09824004beade2f7f28cd1cd581ee5c170d9dc2fbb00e", size = 360332, upload-time = "2026-08-13T14:14:28.767Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b6/29/b7165a3a76364a5baa6aa4ee82a0adf73a3c014b8cd126120b62cc087992/ml_dtypes-0.6.0-cp315-cp315-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:d4f1b9329a251e4affe3bb58f4d3e2db22a714396fd7ffb40d0b5db423c24d17", size = 409964, upload-time = "2026-08-13T14:14:30.023Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/c8/2e/f61c54a0544b6a170ac1bb89bcf406af53fb2deffc5476b6d2d3df5ba13e/ml_dtypes-0.6.0-cp315-cp315-win_amd64.whl", hash = "sha256:488c99ab181a2f59d9ec3b12c5fa11ec904e92be2c4ba18cded54dd7501208fe", size = 457249, upload-time = "2026-08-13T14:14:31.213Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/63/00/bee1bc9faa02a46e7a851019fd23f47ca1f906609edbec8b6ba5decc3cc3/ml_dtypes-0.6.0-cp315-cp315-win_arm64.whl", hash = "sha256:de9d14748dbf3968951436ef514a29c9d1fe438aa680d110134ee2f7a9f9df18", size = 568381, upload-time = "2026-08-13T14:14:32.548Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/72/f7/9a5edede28f73185fd51d75030ef7f11d76997bab3a92427d986e54fe2eb/ml_dtypes-0.6.0-cp315-cp315t-macosx_10_15_universal2.whl", hash = "sha256:e25bb3b0ad1217b60626e4ed45b10ca170c41d99fbe44a12bebc1e07ec4aad55", size = 589877, upload-time = "2026-08-13T14:14:33.695Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/fd/81/d5924a141b850b606eb027493c9c3ca3c665cca5163af3f5b6e5e3345503/ml_dtypes-0.6.0-cp315-cp315t-manylinux_2_27_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:31f1ce979d31a357e95aa81812f20412c8c954fa43c44ee3ead1e1c8a78575ef", size = 362788, upload-time = "2026-08-13T14:14:34.996Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/59/8f/3298e3f334832bc28dd144af6b99cdc93502a8687e71922ea68b0a319929/ml_dtypes-0.6.0-cp315-cp315t-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:e2d6149f3a57f405bcad5fb41e03218b8373936253f23e1ca84c0108abbc3392", size = 430823, upload-time = "2026-08-13T14:14:36.44Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/93/d2/f2dbf118f42ce4c325a139c9236737f436b7f8e00cd18701c99ef2405e6f/ml_dtypes-0.6.0-cp315-cp315t-win_amd64.whl", hash = "sha256:ce7563e0b1a4482cbc1b4a6272145e54e4489e54fe7428f94908c3d87103abfa", size = 465119, upload-time = "2026-08-13T14:14:37.776Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/5a/ff/bda40387b5c5c64254595f4d81a12351770856acc5de4e6d43606a31f161/ml_dtypes-0.6.0-cp315-cp315t-win_arm64.whl", hash = "sha256:f6cb525101b6b903779188c1e9e9490c343b455ab822883e02cf01e5547338d2", size = 572666, upload-time = "2026-08-13T14:14:38.993Z" },
|
||||||
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "numpy"
|
name = "numpy"
|
||||||
version = "2.4.3"
|
version = "2.4.3"
|
||||||
@@ -380,6 +452,33 @@ version = "12.9.1.4"
|
|||||||
source = { registry = "https://pypi.org/simple" }
|
source = { registry = "https://pypi.org/simple" }
|
||||||
wheels = [
|
wheels = [
|
||||||
{ url = "https://files.pythonhosted.org/packages/77/3c/aa88abe01f3be3d1f8f787d1d33dc83e76fec05945f9a28fbb41cfb99cd5/nvidia_cublas_cu12-12.9.1.4-py3-none-manylinux_2_27_x86_64.whl", hash = "sha256:453611eb21a7c1f2c2156ed9f3a45b691deda0440ec550860290dc901af5b4c2", size = 581242350, upload-time = "2025-06-05T20:04:51.979Z" },
|
{ url = "https://files.pythonhosted.org/packages/77/3c/aa88abe01f3be3d1f8f787d1d33dc83e76fec05945f9a28fbb41cfb99cd5/nvidia_cublas_cu12-12.9.1.4-py3-none-manylinux_2_27_x86_64.whl", hash = "sha256:453611eb21a7c1f2c2156ed9f3a45b691deda0440ec550860290dc901af5b4c2", size = 581242350, upload-time = "2025-06-05T20:04:51.979Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/45/a1/a17fade6567c57452cfc8f967a40d1035bb9301db52f27808167fbb2be2f/nvidia_cublas_cu12-12.9.1.4-py3-none-win_amd64.whl", hash = "sha256:1e5fee10662e6e52bd71dec533fbbd4971bb70a5f24f3bc3793e5c2e9dc640bf", size = 553153899, upload-time = "2025-06-05T20:13:35.556Z" },
|
||||||
|
]
|
||||||
|
|
||||||
|
[[package]]
|
||||||
|
name = "onnx"
|
||||||
|
version = "1.22.0"
|
||||||
|
source = { registry = "https://pypi.org/simple" }
|
||||||
|
dependencies = [
|
||||||
|
{ name = "ml-dtypes" },
|
||||||
|
{ name = "numpy" },
|
||||||
|
{ name = "protobuf" },
|
||||||
|
{ name = "typing-extensions" },
|
||||||
|
]
|
||||||
|
sdist = { url = "https://files.pythonhosted.org/packages/04/19/8ea73a64b368b75fe339771a20a02bc61ea1f551484c9e3d9d0bfbd0450f/onnx-1.22.0.tar.gz", hash = "sha256:ef40c0aaf0b643857ea9306fc7eddce17eaf9fb0407e4801f1fc5758443a38e0", size = 12024721, upload-time = "2026-06-15T12:50:05.354Z" }
|
||||||
|
wheels = [
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/ee/6a/481561f1093834376ed493e4ca42a73e5be0d50031f2969c86593bdc7c96/onnx-1.22.0-cp312-abi3-macosx_12_0_universal2.whl", hash = "sha256:596fbf0490947533c1c1045ba860851dc9fb77471023dac9a71ba5b42ceab103", size = 20167081, upload-time = "2026-06-15T12:49:32.078Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/84/55/b34fc2aa30aa54b4a775402d24c4082242c720283a274fe976ac8eb94480/onnx-1.22.0-cp312-abi3-manylinux_2_26_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:ae5a563f281cd9d2845622cecf6c092a57e4ee1b138f66fdbbdd4200567a5e16", size = 18889249, upload-time = "2026-06-15T12:49:34.7Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/09/a6/bd32357e6cc1ecb473afd78193d7231724f284435d2db25696ecfaaa1503/onnx-1.22.0-cp312-abi3-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:955e02e1f6d385b53d52f9cd7b9cdf5caf417c300bcfe3c64c6d542be763845b", size = 19106514, upload-time = "2026-06-15T12:49:37.424Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/5a/9d/3af461ac6c714b8b369cb71499659932f4f12cfb066250b62f7567c3d530/onnx-1.22.0-cp312-abi3-pyemscripten_2025_0_wasm32.whl", hash = "sha256:82e9f27fc1223cb06d68a56bed6f9d3caf3d0dad1b61bce45006d529b15bd94c", size = 16966387, upload-time = "2026-06-15T12:49:40.918Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d0/f0/68195b5e5a53e333faf2660f5352ee43738d0e42fc5216cc6b1871a9fbfb/onnx-1.22.0-cp312-abi3-win32.whl", hash = "sha256:cc8b66b312f8f03a53e268afb67180a2d97dd12cc79e2b61361c6c0073448016", size = 17081568, upload-time = "2026-06-15T12:49:43.398Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/13/a8/734725bb703c5fabb687f79c79e51249475212b3eb37771ac4a4ac9b487f/onnx-1.22.0-cp312-abi3-win_amd64.whl", hash = "sha256:72ccebab3bac07215c204ce8848d42e78eaaa666badbf72d25cd359b9f269e3a", size = 17213290, upload-time = "2026-06-15T12:49:45.933Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/bd/2a/8ce48d8ae26a8761ad4e5dc771961b155c5c3c7c8540ec7f2f2d71b69af0/onnx-1.22.0-cp312-abi3-win_arm64.whl", hash = "sha256:f3c120dcdb70ad738f3c061b32798f408ea299eb69f84dd69ab4a6bf3c2ec01f", size = 17207030, upload-time = "2026-06-15T12:49:48.635Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/f3/13/47323b97846387848efb1044ded11bb94b83526f3d1fbdb37c6480d4520f/onnx-1.22.0-cp314-cp314t-macosx_12_0_universal2.whl", hash = "sha256:19e45e4af88e3fe3261458d4b8cc461957ae2782a358a3560503569bf3b23b72", size = 20176465, upload-time = "2026-06-15T12:49:51.311Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/13/0c/d3b8a7e7eee123938586c608bb9894b5723f2342b9450c0eec59fbec7099/onnx-1.22.0-cp314-cp314t-manylinux_2_26_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:c21a0e59fd967a95b358e4a6e756d1f1eec2d304a83480f329f66e30d2bf0223", size = 18894028, upload-time = "2026-06-15T12:49:54.451Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b8/8a/da2a97ab46fe6e0cd9beb3ac14603a22f5be492f9ca347faf8233a07bb33/onnx-1.22.0-cp314-cp314t-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:2632406b8f523ef2e2873c363f90b20a3d88c0fbcfac757d3addffccf8f452c2", size = 19110420, upload-time = "2026-06-15T12:49:57.665Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b9/a3/ce984063017518307ebfaa545782fc400e593dc2d7fdf4f23ce4be1ed197/onnx-1.22.0-cp314-cp314t-win_amd64.whl", hash = "sha256:a3a39fc4643867aecb33417fdddb11e308ee79d2d4a584b9d50cc7aec2091b13", size = 17237547, upload-time = "2026-06-15T12:50:00.382Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/00/50/257a880384a1dd502d543b0067945074d63cd17d0840e958355bc8197da8/onnx-1.22.0-cp314-cp314t-win_arm64.whl", hash = "sha256:8e268cdc0547e3949799ffd4a44451dc2b9080b57d0824a2db680b6ec65506f0", size = 17231391, upload-time = "2026-06-15T12:50:03.047Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
@@ -516,6 +615,34 @@ wheels = [
|
|||||||
{ url = "https://files.pythonhosted.org/packages/a4/e7/14dc9366696dcb53a413449881743426ed289d687bcf3d5aee4726c32ebb/protobuf-7.34.0-py3-none-any.whl", hash = "sha256:e3b914dd77fa33fa06ab2baa97937746ab25695f389869afdf03e81f34e45dc7", size = 170716, upload-time = "2026-02-27T00:30:23.994Z" },
|
{ url = "https://files.pythonhosted.org/packages/a4/e7/14dc9366696dcb53a413449881743426ed289d687bcf3d5aee4726c32ebb/protobuf-7.34.0-py3-none-any.whl", hash = "sha256:e3b914dd77fa33fa06ab2baa97937746ab25695f389869afdf03e81f34e45dc7", size = 170716, upload-time = "2026-02-27T00:30:23.994Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
|
[[package]]
|
||||||
|
name = "psutil"
|
||||||
|
version = "7.2.2"
|
||||||
|
source = { registry = "https://pypi.org/simple" }
|
||||||
|
sdist = { url = "https://files.pythonhosted.org/packages/aa/c6/d1ddf4abb55e93cebc4f2ed8b5d6dbad109ecb8d63748dd2b20ab5e57ebe/psutil-7.2.2.tar.gz", hash = "sha256:0746f5f8d406af344fd547f1c8daa5f5c33dbc293bb8d6a16d80b4bb88f59372", size = 493740, upload-time = "2026-01-28T18:14:54.428Z" }
|
||||||
|
wheels = [
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/51/08/510cbdb69c25a96f4ae523f733cdc963ae654904e8db864c07585ef99875/psutil-7.2.2-cp313-cp313t-macosx_10_13_x86_64.whl", hash = "sha256:2edccc433cbfa046b980b0df0171cd25bcaeb3a68fe9022db0979e7aa74a826b", size = 130595, upload-time = "2026-01-28T18:14:57.293Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d6/f5/97baea3fe7a5a9af7436301f85490905379b1c6f2dd51fe3ecf24b4c5fbf/psutil-7.2.2-cp313-cp313t-macosx_11_0_arm64.whl", hash = "sha256:e78c8603dcd9a04c7364f1a3e670cea95d51ee865e4efb3556a3a63adef958ea", size = 131082, upload-time = "2026-01-28T18:14:59.732Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/37/d6/246513fbf9fa174af531f28412297dd05241d97a75911ac8febefa1a53c6/psutil-7.2.2-cp313-cp313t-manylinux2010_x86_64.manylinux_2_12_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:1a571f2330c966c62aeda00dd24620425d4b0cc86881c89861fbc04549e5dc63", size = 181476, upload-time = "2026-01-28T18:15:01.884Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b8/b5/9182c9af3836cca61696dabe4fd1304e17bc56cb62f17439e1154f225dd3/psutil-7.2.2-cp313-cp313t-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:917e891983ca3c1887b4ef36447b1e0873e70c933afc831c6b6da078ba474312", size = 184062, upload-time = "2026-01-28T18:15:04.436Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/16/ba/0756dca669f5a9300d0cbcbfae9a4c30e446dfc7440ffe43ded5724bfd93/psutil-7.2.2-cp313-cp313t-win_amd64.whl", hash = "sha256:ab486563df44c17f5173621c7b198955bd6b613fb87c71c161f827d3fb149a9b", size = 139893, upload-time = "2026-01-28T18:15:06.378Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/1c/61/8fa0e26f33623b49949346de05ec1ddaad02ed8ba64af45f40a147dbfa97/psutil-7.2.2-cp313-cp313t-win_arm64.whl", hash = "sha256:ae0aefdd8796a7737eccea863f80f81e468a1e4cf14d926bd9b6f5f2d5f90ca9", size = 135589, upload-time = "2026-01-28T18:15:08.03Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/81/69/ef179ab5ca24f32acc1dac0c247fd6a13b501fd5534dbae0e05a1c48b66d/psutil-7.2.2-cp314-cp314t-macosx_10_15_x86_64.whl", hash = "sha256:eed63d3b4d62449571547b60578c5b2c4bcccc5387148db46e0c2313dad0ee00", size = 130664, upload-time = "2026-01-28T18:15:09.469Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/7b/64/665248b557a236d3fa9efc378d60d95ef56dd0a490c2cd37dafc7660d4a9/psutil-7.2.2-cp314-cp314t-macosx_11_0_arm64.whl", hash = "sha256:7b6d09433a10592ce39b13d7be5a54fbac1d1228ed29abc880fb23df7cb694c9", size = 131087, upload-time = "2026-01-28T18:15:11.724Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/d5/2e/e6782744700d6759ebce3043dcfa661fb61e2fb752b91cdeae9af12c2178/psutil-7.2.2-cp314-cp314t-manylinux2010_x86_64.manylinux_2_12_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:1fa4ecf83bcdf6e6c8f4449aff98eefb5d0604bf88cb883d7da3d8d2d909546a", size = 182383, upload-time = "2026-01-28T18:15:13.445Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/57/49/0a41cefd10cb7505cdc04dab3eacf24c0c2cb158a998b8c7b1d27ee2c1f5/psutil-7.2.2-cp314-cp314t-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:e452c464a02e7dc7822a05d25db4cde564444a67e58539a00f929c51eddda0cf", size = 185210, upload-time = "2026-01-28T18:15:16.002Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/dd/2c/ff9bfb544f283ba5f83ba725a3c5fec6d6b10b8f27ac1dc641c473dc390d/psutil-7.2.2-cp314-cp314t-win_amd64.whl", hash = "sha256:c7663d4e37f13e884d13994247449e9f8f574bc4655d509c3b95e9ec9e2b9dc1", size = 141228, upload-time = "2026-01-28T18:15:18.385Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/f2/fc/f8d9c31db14fcec13748d373e668bc3bed94d9077dbc17fb0eebc073233c/psutil-7.2.2-cp314-cp314t-win_arm64.whl", hash = "sha256:11fe5a4f613759764e79c65cf11ebdf26e33d6dd34336f8a337aa2996d71c841", size = 136284, upload-time = "2026-01-28T18:15:19.912Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/e7/36/5ee6e05c9bd427237b11b3937ad82bb8ad2752d72c6969314590dd0c2f6e/psutil-7.2.2-cp36-abi3-macosx_10_9_x86_64.whl", hash = "sha256:ed0cace939114f62738d808fdcecd4c869222507e266e574799e9c0faa17d486", size = 129090, upload-time = "2026-01-28T18:15:22.168Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/80/c4/f5af4c1ca8c1eeb2e92ccca14ce8effdeec651d5ab6053c589b074eda6e1/psutil-7.2.2-cp36-abi3-macosx_11_0_arm64.whl", hash = "sha256:1a7b04c10f32cc88ab39cbf606e117fd74721c831c98a27dc04578deb0c16979", size = 129859, upload-time = "2026-01-28T18:15:23.795Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b5/70/5d8df3b09e25bce090399cf48e452d25c935ab72dad19406c77f4e828045/psutil-7.2.2-cp36-abi3-manylinux2010_x86_64.manylinux_2_12_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:076a2d2f923fd4821644f5ba89f059523da90dc9014e85f8e45a5774ca5bc6f9", size = 155560, upload-time = "2026-01-28T18:15:25.976Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/63/65/37648c0c158dc222aba51c089eb3bdfa238e621674dc42d48706e639204f/psutil-7.2.2-cp36-abi3-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:b0726cecd84f9474419d67252add4ac0cd9811b04d61123054b9fb6f57df6e9e", size = 156997, upload-time = "2026-01-28T18:15:27.794Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/8e/13/125093eadae863ce03c6ffdbae9929430d116a246ef69866dad94da3bfbc/psutil-7.2.2-cp36-abi3-musllinux_1_2_aarch64.whl", hash = "sha256:fd04ef36b4a6d599bbdb225dd1d3f51e00105f6d48a28f006da7f9822f2606d8", size = 148972, upload-time = "2026-01-28T18:15:29.342Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/04/78/0acd37ca84ce3ddffaa92ef0f571e073faa6d8ff1f0559ab1272188ea2be/psutil-7.2.2-cp36-abi3-musllinux_1_2_x86_64.whl", hash = "sha256:b58fabe35e80b264a4e3bb23e6b96f9e45a3df7fb7eed419ac0e5947c61e47cc", size = 148266, upload-time = "2026-01-28T18:15:31.597Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/b4/90/e2159492b5426be0c1fef7acba807a03511f97c5f86b3caeda6ad92351a7/psutil-7.2.2-cp37-abi3-win_amd64.whl", hash = "sha256:eb7e81434c8d223ec4a219b5fc1c47d0417b12be7ea866e24fb5ad6e84b3d988", size = 137737, upload-time = "2026-01-28T18:15:33.849Z" },
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/8c/c7/7bb2e321574b10df20cbde462a94e2b71d05f9bbda251ef27d104668306a/psutil-7.2.2-cp37-abi3-win_arm64.whl", hash = "sha256:8c233660f575a5a89e6d4cb65d9f938126312bca76d8fe087b947b3a1aaac9ee", size = 134617, upload-time = "2026-01-28T18:15:36.514Z" },
|
||||||
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "pygments"
|
name = "pygments"
|
||||||
version = "2.19.2"
|
version = "2.19.2"
|
||||||
@@ -525,22 +652,6 @@ wheels = [
|
|||||||
{ url = "https://files.pythonhosted.org/packages/c7/21/705964c7812476f378728bdf590ca4b771ec72385c533964653c68e86bdc/pygments-2.19.2-py3-none-any.whl", hash = "sha256:86540386c03d588bb81d44bc3928634ff26449851e99741617ecb9037ee5ec0b", size = 1225217, upload-time = "2025-06-21T13:39:07.939Z" },
|
{ url = "https://files.pythonhosted.org/packages/c7/21/705964c7812476f378728bdf590ca4b771ec72385c533964653c68e86bdc/pygments-2.19.2-py3-none-any.whl", hash = "sha256:86540386c03d588bb81d44bc3928634ff26449851e99741617ecb9037ee5ec0b", size = 1225217, upload-time = "2025-06-21T13:39:07.939Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
[[package]]
|
|
||||||
name = "psutil"
|
|
||||||
version = "7.2.2"
|
|
||||||
source = { registry = "https://pypi.org/simple" }
|
|
||||||
sdist = { url = "https://files.pythonhosted.org/packages/aa/c6/d1ddf4abb55e93cebc4f2ed8b5d6dbad109ecb8d63748dd2b20ab5e57ebe/psutil-7.2.2.tar.gz", hash = "sha256:0746f5f8d406af344fd547f1c8daa5f5c33dbc293bb8d6a16d80b4bb88f59372", size = 493740, upload-time = "2026-01-28T18:14:54.428Z" }
|
|
||||||
wheels = [
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/e7/36/5ee6e05c9bd427237b11b3937ad82bb8ad2752d72c6969314590dd0c2f6e/psutil-7.2.2-cp36-abi3-macosx_10_9_x86_64.whl", hash = "sha256:ed0cace939114f62738d808fdcecd4c869222507e266e574799e9c0faa17d486", size = 129090, upload-time = "2026-01-28T18:15:22.169Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/80/c4/f5af4c1ca8c1eeb2e92ccca14ce8effdeec651d5ab6053c589b074eda6e1/psutil-7.2.2-cp36-abi3-macosx_11_0_arm64.whl", hash = "sha256:1a7b04c10f32cc88ab39cbf606e117fd74721c831c98a27dc04578deb0c16979", size = 129859, upload-time = "2026-01-28T18:15:23.795Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/b5/70/5d8df3b09e25bce090399cf48e452d25c935ab72dad19406c77f4e828045/psutil-7.2.2-cp36-abi3-manylinux2010_x86_64.manylinux_2_12_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:076a2d2f923fd4821644f5ba89f059523da90dc9014e85f8e45a5774ca5bc6f9", size = 155560, upload-time = "2026-01-28T18:15:25.977Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/63/65/37648c0c158dc222aba51c089eb3bdfa238e621674dc42d48706e639204f/psutil-7.2.2-cp36-abi3-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:b0726cecd84f9474419d67252add4ac0cd9811b04d61123054b9fb6f57df6e9e", size = 156997, upload-time = "2026-01-28T18:15:27.795Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/8e/13/125093eadae863ce03c6ffdbae9929430d116a246ef69866dad94da3bfbc/psutil-7.2.2-cp36-abi3-musllinux_1_2_aarch64.whl", hash = "sha256:fd04ef36b4a6d599bbdb225dd1d3f51e00105f6d48a28f006da7f9822f2606d8", size = 148972, upload-time = "2026-01-28T18:15:29.343Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/04/78/0acd37ca84ce3ddffaa92ef0f571e073faa6d8ff1f0559ab1272188ea2be/psutil-7.2.2-cp36-abi3-musllinux_1_2_x86_64.whl", hash = "sha256:b58fabe35e80b264a4e3bb23e6b96f9e45a3df7fb7eed419ac0e5947c61e47cc", size = 148266, upload-time = "2026-01-28T18:15:31.597Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/b4/90/e2159492b5426be0c1fef7acba807a03511f97c5f86b3caeda6ad92351a7/psutil-7.2.2-cp37-abi3-win_amd64.whl", hash = "sha256:eb7e81434c8d223ec4a219b5fc1c47d0417b12be7ea866e24fb5ad6e84b3d988", size = 137737, upload-time = "2026-01-28T18:15:33.849Z" },
|
|
||||||
{ url = "https://files.pythonhosted.org/packages/8c/c7/7bb2e321574b10df20cbde462a94e2b71d05f9bbda251ef27d104668306a/psutil-7.2.2-cp37-abi3-win_arm64.whl", hash = "sha256:8c233660f575a5a89e6d4cb65d9f938126312bca76d8fe087b947b3a1aaac9ee", size = 134617, upload-time = "2026-01-28T18:15:36.515Z" },
|
|
||||||
]
|
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "pytest"
|
name = "pytest"
|
||||||
version = "9.0.2"
|
version = "9.0.2"
|
||||||
@@ -626,47 +737,47 @@ wheels = [
|
|||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "sherpa-onnx"
|
name = "sherpa-onnx"
|
||||||
version = "1.13.5"
|
version = "1.13.6"
|
||||||
source = { registry = "https://pypi.org/simple" }
|
source = { registry = "https://pypi.org/simple" }
|
||||||
dependencies = [
|
dependencies = [
|
||||||
{ name = "sherpa-onnx-core" },
|
{ name = "sherpa-onnx-core" },
|
||||||
]
|
]
|
||||||
sdist = { url = "https://files.pythonhosted.org/packages/6d/a1/8a7d8751bc71a0814f3b9332717909512a5ff919d07ed53e4baa861ef8c7/sherpa_onnx-1.13.5.tar.gz", hash = "sha256:14bebfe71365a2c678dd94cd08efa8e79df06318b17fe8e97b2e802a7881fd5a", size = 1037285, upload-time = "2026-08-11T08:17:31.817Z" }
|
sdist = { url = "https://files.pythonhosted.org/packages/a6/12/ca1900b2ad6308f76b9f744367748ce81adab2fb70a5665acf0a6f3c34f0/sherpa_onnx-1.13.6.tar.gz", hash = "sha256:d55a0e769efd9b014c2d3aaa54754288dc39c7261e9334c575d54ba22214ca27", size = 1037965, upload-time = "2026-08-18T06:55:13.107Z" }
|
||||||
wheels = [
|
wheels = [
|
||||||
{ url = "https://files.pythonhosted.org/packages/61/6f/b70ae4c7e367e3d2dca99efc65152d22ad5d942619add19172d24267c14b/sherpa_onnx-1.13.5-cp313-cp313-linux_armv7l.whl", hash = "sha256:15a02d9d74143f336156cb8b4da826bc65c11daa28bd5c9099e9397b3660e7df", size = 11999210, upload-time = "2026-08-11T09:26:07.356Z" },
|
{ url = "https://files.pythonhosted.org/packages/48/52/5ad50062b757b0d99b297594b106173bdcc50480f512dd5ae97cd0d2bc09/sherpa_onnx-1.13.6-cp313-cp313-linux_armv7l.whl", hash = "sha256:788aef27900e15d1bf6482c6f745a26f6ded9b41aaa1fddbacabf6a20366e523", size = 11999760, upload-time = "2026-08-18T08:47:38.139Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/9e/ec/d471d042cc85c505515e3fbaed55223f54718a9ac3a8f228a8e1b81dab6d/sherpa_onnx-1.13.5-cp313-cp313-macosx_10_15_universal2.whl", hash = "sha256:371b0eb51caa12f5f3e9c327c440a4aee6f77c163c89666469844eaefb7d5351", size = 4439247, upload-time = "2026-08-11T08:30:33.777Z" },
|
{ url = "https://files.pythonhosted.org/packages/87/2a/31a94c922813471ef8284658d4dfeae0ceb1d94de08cd8c6728aa95f4e79/sherpa_onnx-1.13.6-cp313-cp313-macosx_10_15_universal2.whl", hash = "sha256:4438843292ddcff7267e79c032b4711d3f54529434a5e225c820cc0da4c489a4", size = 4439567, upload-time = "2026-08-18T07:20:58.922Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/28/58/2f60eb29db5f41c01ad844be34ed1adfdecce9493b12cc20bbdc6b6ad5a8/sherpa_onnx-1.13.5-cp313-cp313-macosx_10_15_x86_64.whl", hash = "sha256:2bdfefa5d16896c90d1685bde43682818e70b95e134dccc95b91dc0819adde1c", size = 2340028, upload-time = "2026-08-11T07:18:47.753Z" },
|
{ url = "https://files.pythonhosted.org/packages/8e/47/1d1e726b4f15bd66cbe0b73bf81334764d6025e05738d984ebdd96a78e0e/sherpa_onnx-1.13.6-cp313-cp313-macosx_10_15_x86_64.whl", hash = "sha256:0c357e37fbb958edd93841ba40723b2447d5470fc683329b8eadd32d454320c3", size = 2340457, upload-time = "2026-08-18T06:39:53.405Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/6e/71/25f067216edcde5e78cf0d9a7ac053a2b3b17bdf131acac69447daa23356/sherpa_onnx-1.13.5-cp313-cp313-macosx_11_0_arm64.whl", hash = "sha256:05a3effd8ea5ee78735bc28909c0fce26d9f23bf61db663e6f75f04ec0247ba4", size = 2137522, upload-time = "2026-08-11T07:43:35.186Z" },
|
{ url = "https://files.pythonhosted.org/packages/fc/04/552c85d7f0b6ba1a1008da0568054d5c834c644f26057a24baf92dcdf876/sherpa_onnx-1.13.6-cp313-cp313-macosx_11_0_arm64.whl", hash = "sha256:cdb0f9fcaae89f8acd1ee9ce5fe89e77be3aa240cdedab3f48aa7b19800d8b72", size = 2137534, upload-time = "2026-08-18T07:59:20.279Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/5a/77/b36cd40906bef1b3a6593200587eea5c4e7c1e94d29c4fd88a876e1cd6ca/sherpa_onnx-1.13.5-cp313-cp313-manylinux2014_aarch64.manylinux_2_17_aarch64.whl", hash = "sha256:f5a6cc5ac96043670faa0f5c0e56310315a4600cf7b764fee014e7dd75fda00f", size = 4167203, upload-time = "2026-08-11T07:48:34.601Z" },
|
{ url = "https://files.pythonhosted.org/packages/bf/f3/5d50f5e675d972c39d908f82b554e6e1734c2d165e6573b8b92e7b0f3aaa/sherpa_onnx-1.13.6-cp313-cp313-manylinux2014_aarch64.manylinux_2_17_aarch64.whl", hash = "sha256:248e3d039dba42ffeb141e7cb914f297e23199fca94e0413259dcdf5fb281960", size = 4168068, upload-time = "2026-08-18T06:28:33.845Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/9a/3b/817cdb5770f8beafd22a04a8eda0c8253a6d07a518a09ce982d6e4152e3c/sherpa_onnx-1.13.5-cp313-cp313-manylinux2014_x86_64.manylinux_2_17_x86_64.whl", hash = "sha256:cb7c1f5ca5455b3ec008f3e09438bca6038d22b4fe5d64adb5c09bb6b84eeb82", size = 4392107, upload-time = "2026-08-11T08:03:49.714Z" },
|
{ url = "https://files.pythonhosted.org/packages/fe/3e/c3a60cf13301363210e7a0cc72a901ae6a56e313e1d912df0017e24e6e79/sherpa_onnx-1.13.6-cp313-cp313-manylinux2014_x86_64.manylinux_2_17_x86_64.whl", hash = "sha256:5212391170d5ac2fdd02109b313cc1120393ededc2a06dd9eed731a4ca24f068", size = 4391526, upload-time = "2026-08-18T06:41:25.459Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/55/75/b8494e30923a18db144e0035851f0364c32e63d776b62f3d2667f717f499/sherpa_onnx-1.13.5-cp313-cp313-win32.whl", hash = "sha256:80d9ec3ce2fe8b566285ef92fa2e72b4fa0aee10f73290ac74219fe415806980", size = 1961338, upload-time = "2026-08-11T08:35:46.591Z" },
|
{ url = "https://files.pythonhosted.org/packages/a5/fe/26d6a5aaae30f79e987ca55e482f6a92839e579e1eb0b6dc2987e1390b5d/sherpa_onnx-1.13.6-cp313-cp313-win32.whl", hash = "sha256:1743cf209361647430d83f44cd2ddd686f74a9a8442699427de4223ed1b17066", size = 1961677, upload-time = "2026-08-18T07:15:46.315Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/5e/28/e8644784a897e4ba6cdc7a635d821107ce31567c90e1835a0c008ba2a322/sherpa_onnx-1.13.5-cp313-cp313-win_amd64.whl", hash = "sha256:440174433b5d3f855a800d757e66812e998ec9715f5f42690afb27a6ff456586", size = 2279915, upload-time = "2026-08-11T08:51:50.171Z" },
|
{ url = "https://files.pythonhosted.org/packages/cd/04/a5cd9dd2a6e5073ca5fb8df28a95ecb49df71a8b3ff822aa57f294dec985/sherpa_onnx-1.13.6-cp313-cp313-win_amd64.whl", hash = "sha256:3387c754668578612aaf7795f894b631faefb71fd7d7df20c2aa41aa2dbc59a2", size = 2280022, upload-time = "2026-08-18T07:52:46.014Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/02/99/1aa369391f62a2753b5d97b0b9ecd99475410c51eada10f7079628a58c4f/sherpa_onnx-1.13.5-cp313-cp313-win_arm64.whl", hash = "sha256:38de7f31754dfa7212beb4cc773ba05f78d028adb4c0e008920128388657f778", size = 2239783, upload-time = "2026-08-11T07:46:44.679Z" },
|
{ url = "https://files.pythonhosted.org/packages/c3/a4/0e0194e561c6670315a0efc09ec80680ae43d196572974abba624ad9ac90/sherpa_onnx-1.13.6-cp313-cp313-win_arm64.whl", hash = "sha256:b52143c11ff064a02b80c231ce462eb8e258fc5a7b994c750ee8145ca79c114d", size = 2240745, upload-time = "2026-08-18T07:35:12.686Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/21/a3/ac238819cca1955b6b80ae802671cc7e4d688c673fb98001c21111922045/sherpa_onnx-1.13.5-cp314-cp314-linux_armv7l.whl", hash = "sha256:a224466e750a435089311d4c763617a4d83478a2f958c311b473ea59f9cce3ae", size = 11997852, upload-time = "2026-08-11T08:54:11.47Z" },
|
{ url = "https://files.pythonhosted.org/packages/41/a3/62a284cba29e3c9307f24794a65167371cca1390c3b690458f15fcbb75e3/sherpa_onnx-1.13.6-cp314-cp314-linux_armv7l.whl", hash = "sha256:a7c05186d279db4e1ef8949d798c88a05b524f95743966667b70f70ea18243e2", size = 11997843, upload-time = "2026-08-18T08:41:04.762Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/02/82/3f5b50f84b9a8571bdfe9939983a8e6dff75110961305315887bbc83f626/sherpa_onnx-1.13.5-cp314-cp314-macosx_10_15_universal2.whl", hash = "sha256:1a4ea5fa45caf31093ff832ab4d198e097edbeeb2244a0d4f958e96bf888110a", size = 4442303, upload-time = "2026-08-11T07:36:28.234Z" },
|
{ url = "https://files.pythonhosted.org/packages/2b/7a/fd4a1b1e1580cbb6623fbb06f1b05afac69a4d84867541f4e653a422d8d8/sherpa_onnx-1.13.6-cp314-cp314-macosx_10_15_universal2.whl", hash = "sha256:3105aec59b691ba59c75148261c2d7a64614fbeb7470b8116c04e8ec01aa9514", size = 4442856, upload-time = "2026-08-18T08:02:22.368Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/fe/90/6d3a1112bc4496b0b918d3a807036912f1f34fb4a4dc506f0cabf398c4a9/sherpa_onnx-1.13.5-cp314-cp314-macosx_10_15_x86_64.whl", hash = "sha256:7582ca42ed2d80bacc984b46904cbdd058ec2b6149a8c8996d7263217a4cc963", size = 2340527, upload-time = "2026-08-11T07:54:35.482Z" },
|
{ url = "https://files.pythonhosted.org/packages/be/de/ba9022fb7d5b7e7818bb456d10220702468c8be0ecfe3d164347b165439b/sherpa_onnx-1.13.6-cp314-cp314-macosx_10_15_x86_64.whl", hash = "sha256:afd08d1337d14d8f27f70802096c237044b3fc9c922d8b40d7f8b12d84566a10", size = 2341119, upload-time = "2026-08-18T07:29:01.085Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/84/9d/0cb152e3fd1aa5787ade99c4863cd8cf80d800b879e8ff47f8f99412af78/sherpa_onnx-1.13.5-cp314-cp314-macosx_11_0_arm64.whl", hash = "sha256:97471fe025fc1d655a1df2f4ffb5d3fe843c269f2016d5e1cca4b0d168a49169", size = 2140247, upload-time = "2026-08-11T08:23:33.405Z" },
|
{ url = "https://files.pythonhosted.org/packages/b3/32/8889ae5e10eaf1c29d0e9f7ff63ad9b5168dd7304274666d23c4a48aa841/sherpa_onnx-1.13.6-cp314-cp314-macosx_11_0_arm64.whl", hash = "sha256:89ca7cd437bf250be60d297ffdb58b77acc5c6beef2d90e84029a0cfaa8783fe", size = 2140675, upload-time = "2026-08-18T08:10:34.166Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/e6/84/38531f16e2c2a0b077257b25c34c02a1c8f7f1f833d5bb61e2b2f510e260/sherpa_onnx-1.13.5-cp314-cp314-manylinux2014_aarch64.manylinux_2_17_aarch64.whl", hash = "sha256:2a51751f6c925c405ef6ebcb2f7c44794810da79d0f2743fe57ee3daa5bc4df5", size = 4172385, upload-time = "2026-08-11T08:00:34.952Z" },
|
{ url = "https://files.pythonhosted.org/packages/f5/a0/05b594030df8c52e9a89e1615e3b6d59f99db1c884a33f6d5d2782045650/sherpa_onnx-1.13.6-cp314-cp314-manylinux2014_aarch64.manylinux_2_17_aarch64.whl", hash = "sha256:370cc39be2613f27640e9fd6e326556109e2202d11d1420c8ba1616fc4eb1b90", size = 4173222, upload-time = "2026-08-18T06:45:53.883Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/45/91/56a439945713a5cf49080a833fbd0953936fcd50c651c17afe64478c9922/sherpa_onnx-1.13.5-cp314-cp314-manylinux2014_x86_64.manylinux_2_17_x86_64.whl", hash = "sha256:eb4d580d959e16c42dbd404cef0f5764ed1c024edf48d3edc43b5e2f1c96f069", size = 4393503, upload-time = "2026-08-11T07:38:11.97Z" },
|
{ url = "https://files.pythonhosted.org/packages/bd/92/638cb914a924d9039270113c8ecdd419a82a56072141bea85d8a88433ade/sherpa_onnx-1.13.6-cp314-cp314-manylinux2014_x86_64.manylinux_2_17_x86_64.whl", hash = "sha256:243e8dfb4749b4ded8893f9e6af90615a16c5df1ad7c8aa211f5207911cfe9b2", size = 4393166, upload-time = "2026-08-18T07:08:41.428Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/d5/27/cbdfa8bdcf618b28ec5cf383b073be851ff3178ea06d6f1a0fcb3c7532e8/sherpa_onnx-1.13.5-cp314-cp314-win32.whl", hash = "sha256:64cb492cf8a9751f632685c6f169fef7e5a2f449efb9923bc21b6e783a911dba", size = 2000807, upload-time = "2026-08-11T08:57:11.235Z" },
|
{ url = "https://files.pythonhosted.org/packages/ea/12/389b69bb78339d498ffee9f2ce40e8c27d55f46f45606aaafa23c9af586f/sherpa_onnx-1.13.6-cp314-cp314-win32.whl", hash = "sha256:9b0bffb23a428139983c4f42753b924097b0181a74257e2e529bd70f4fb49e9b", size = 2001391, upload-time = "2026-08-18T07:24:22.179Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/d6/c2/162840897a528a528bc0f76cf3516d4e3ac1445db9089caf7733df756cfc/sherpa_onnx-1.13.5-cp314-cp314-win_amd64.whl", hash = "sha256:001e1c3440fe335a589c9283a68105f379ffb63f2d1d7c2878e99a5d72eaf5af", size = 2345302, upload-time = "2026-08-11T08:11:46.752Z" },
|
{ url = "https://files.pythonhosted.org/packages/20/7c/f7f4d89088114a8b861c8b5416f14c67ca3bdae652ea2e9499f438c17dc8/sherpa_onnx-1.13.6-cp314-cp314-win_amd64.whl", hash = "sha256:aa4321c92ec8b12f602664551c72cbe0c920f5002009dc9457d6e092639b0ae2", size = 2345347, upload-time = "2026-08-18T07:51:40.427Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/28/5e/9a9c63e1dcd646c5f21df6d16e6770fedd956f8a54241f3382343c6289af/sherpa_onnx-1.13.5-cp314-cp314-win_arm64.whl", hash = "sha256:a7e97d8457a51725ffa3fcb44cb1d57bfdb780bc390a9460a65e05bf3d2851b4", size = 2303336, upload-time = "2026-08-11T07:33:25.917Z" },
|
{ url = "https://files.pythonhosted.org/packages/3f/0d/caf428b986911a9027e9e30d2735456557be3e7ea86ab70b8cd2b7fc7514/sherpa_onnx-1.13.6-cp314-cp314-win_arm64.whl", hash = "sha256:6b5861db46d126a6b97b05432e4122ba2b8505f17f2ee16c1b377c9f3251ba36", size = 2303436, upload-time = "2026-08-18T07:33:28.755Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "sherpa-onnx-core"
|
name = "sherpa-onnx-core"
|
||||||
version = "1.13.5"
|
version = "1.13.6"
|
||||||
source = { registry = "https://pypi.org/simple" }
|
source = { registry = "https://pypi.org/simple" }
|
||||||
wheels = [
|
wheels = [
|
||||||
{ url = "https://files.pythonhosted.org/packages/8b/fe/2a972bc05bc1c674275a97d16d387545c6efa811bf2a8dc1b6ac573f9fe1/sherpa_onnx_core-1.13.5-py3-none-macosx_10_15_universal2.whl", hash = "sha256:a5380f4f8ec609e1c68f2052e34a55862098fa0efa0bba0af33adbdc0231fc4c", size = 19850412, upload-time = "2026-08-11T07:15:17.913Z" },
|
{ url = "https://files.pythonhosted.org/packages/df/cd/633f4a3eb8841e9d849dd130d20498a9315be03d27f5050c2ca139a16226/sherpa_onnx_core-1.13.6-py3-none-macosx_10_15_universal2.whl", hash = "sha256:365539159406cd41ff5031e5db68d6e402a392a15b3a77b2e952f579c1945f3c", size = 19850670, upload-time = "2026-08-18T06:14:56.282Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/27/cd/5730372ce10ba08fda03a3e3dad4ec8bc2a62607530a8f32c44e63258c51/sherpa_onnx_core-1.13.5-py3-none-macosx_10_15_x86_64.whl", hash = "sha256:6bb5c460cd432293a290c861fbd519e30ac290ca84b5acd1c4447c22aef03351", size = 10614601, upload-time = "2026-08-11T07:00:58.916Z" },
|
{ url = "https://files.pythonhosted.org/packages/2c/89/2ee5d5d79f3bea896d89caff95d641881b58ddd629d538801b15cef2747c/sherpa_onnx_core-1.13.6-py3-none-macosx_10_15_x86_64.whl", hash = "sha256:f5a672a02d42d1c369ddd129f8be57bfe8b7e785140a13976ff7633e27c4ffdd", size = 10614866, upload-time = "2026-08-18T06:29:24.317Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/91/54/b753e2dbd2b0f09aed2d2082f35c41606af9712457278ff99d13eaae92d3/sherpa_onnx_core-1.13.5-py3-none-macosx_11_0_arm64.whl", hash = "sha256:899e88916efd96ee1eabc512e9ceaf2fdb711b20b2512cf40358b623e90b5ded", size = 9282744, upload-time = "2026-08-11T07:09:47.547Z" },
|
{ url = "https://files.pythonhosted.org/packages/06/ee/dbbc6718e263e4961106e057c187875e00485ca8030a6bca0d9682807d30/sherpa_onnx_core-1.13.6-py3-none-macosx_11_0_arm64.whl", hash = "sha256:2a413121dd0ee2e53c45def3ea4e8f0e968a6ac74f8cfd288bed3ae2cc815c33", size = 9282956, upload-time = "2026-08-18T07:21:24.118Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/e6/58/505668cedd7036bcba305c1a1f5424a3340f4701297a628de83d61e8ed58/sherpa_onnx_core-1.13.5-py3-none-manylinux2014_aarch64.whl", hash = "sha256:4cd751063a378a49f0c72eba5ba959fe375397f5baf93a53f3db64097d00e2aa", size = 13051193, upload-time = "2026-08-11T07:00:47.526Z" },
|
{ url = "https://files.pythonhosted.org/packages/58/ab/ab279cf4eb6d4aa4b5f703d4e8233365c3acee304b963a09d4cb71601324/sherpa_onnx_core-1.13.6-py3-none-manylinux2014_aarch64.whl", hash = "sha256:e247b203ca64ab7095864d3ef1a21159787e02a985a7df137652604377c7833e", size = 13051341, upload-time = "2026-08-18T06:14:08.43Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/8f/61/2cf3aee64c280c830ca4fa25584eb87f8acf04787152744a29d576323977/sherpa_onnx_core-1.13.5-py3-none-manylinux2014_x86_64.whl", hash = "sha256:485b20188ddf905ffbd7504ed456a05d0ff84d10c592a16c0adb7d69bb845f82", size = 10371666, upload-time = "2026-08-11T07:19:12.791Z" },
|
{ url = "https://files.pythonhosted.org/packages/fa/0a/6f64568ebb230b200c30c465eb002113944705fa36c734838ea46f2e1802/sherpa_onnx_core-1.13.6-py3-none-manylinux2014_x86_64.whl", hash = "sha256:9c1260ae150ebd4f658854fd8d8ca8477828afa5bebf66c1b2f6132f1f704a21", size = 10371677, upload-time = "2026-08-18T06:15:23.693Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/24/08/c04236fdf7825c4149b8b28b24d5a26f9e3fdca879aa24b8f1c65e96745b/sherpa_onnx_core-1.13.5-py3-none-manylinux_2_35_armv7l.whl", hash = "sha256:12697ff5745e225157b3257fe638e8b6305b1860366b6387e7a586ee6de2b18b", size = 9920766, upload-time = "2026-08-11T08:48:07.866Z" },
|
{ url = "https://files.pythonhosted.org/packages/21/ba/170e3de104c091e95e49d8f547473d58f925ec55add3729b49e3498efce4/sherpa_onnx_core-1.13.6-py3-none-manylinux_2_35_armv7l.whl", hash = "sha256:21e3e0c90cb9d3117d8ea64b3c3e598e6b85098b35582fed6ebb742625d33fc6", size = 9920659, upload-time = "2026-08-18T07:43:34.764Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/44/c0/6d19a5b4be1541e2bd17ec045d0c48a641055d290007826ddee3a081a905/sherpa_onnx_core-1.13.5-py3-none-win32.whl", hash = "sha256:6b2f19b7559ad278aa17af0b9f3917a90a37fef4501c04afb14e722f4848c9b7", size = 14534505, upload-time = "2026-08-11T08:22:22.047Z" },
|
{ url = "https://files.pythonhosted.org/packages/5d/29/470348cf8a8e580f8db99f7f3a6f49bba4657ea0ad8de58f15c8e4be83f0/sherpa_onnx_core-1.13.6-py3-none-win32.whl", hash = "sha256:97103228dde9b772a53c200a5c1e0dc1821f09e3139e0a72431a95a28a4eb62a", size = 14534700, upload-time = "2026-08-18T06:31:06.45Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/2a/67/61611b5b945d7ac860387283a352860df8ab0431e3cc0868c1d5291e9f86/sherpa_onnx_core-1.13.5-py3-none-win_amd64.whl", hash = "sha256:fb48f5b7b4596bb745e5dcbb04616d841712224cba652717a71a4551d8ee5b63", size = 16522273, upload-time = "2026-08-11T07:09:46.3Z" },
|
{ url = "https://files.pythonhosted.org/packages/81/61/d32923b9f6fa039271760e1c642ffd496b8e2b3340e084bd9b0c7b568448/sherpa_onnx_core-1.13.6-py3-none-win_amd64.whl", hash = "sha256:9e7ac522b4f108412f6a1173c0e512c65e98d4714d9d9aa0002279d588d2e699", size = 16522526, upload-time = "2026-08-18T06:51:39.613Z" },
|
||||||
{ url = "https://files.pythonhosted.org/packages/28/b2/d7ee13aba3fc40316e2363a5ac0780be7b0112050f7e8821bcd00d6af024/sherpa_onnx_core-1.13.5-py3-none-win_arm64.whl", hash = "sha256:7e24d3ddbcb1e6447467b214ff1235dced21fa4107de5c55125fb3c95ff10501", size = 15683505, upload-time = "2026-08-11T07:11:03.608Z" },
|
{ url = "https://files.pythonhosted.org/packages/15/af/025e55fc07fde16a7abe19f0d1616469e8e4b56424323f0721f321a064ab/sherpa_onnx_core-1.13.6-py3-none-win_arm64.whl", hash = "sha256:36ce28bbcab720627e53befa1adc4573ffb966d9c9ce7d78e260cd8a5edb9103", size = 15685909, upload-time = "2026-08-18T06:37:19.099Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
|
|||||||
Reference in new issue
Block a user