ddmitry/local-transcriber
1
0
Fork 0
Code Issues 6 Pull Requests Actions Packages Projects Releases Wiki Activity

docs: задокументировать onnx-бэкенд в README, CLI-help и ADR-005

Browse Source 
- Зачем:
  - пользователь должен знать о --device onnx и поддерживаемых моделях.
- Что:
  - CLI help: добавлен onnx в список устройств.
  - README: секция примеров, таблица платформ, device-aware дефолты.
  - ADR-005: результаты parakeet-v3 --language ru, уточнённые рекомендации.
- Проверка:
  - uv run pytest -q (172 passed).
  - uv run transcribe --help показывает onnx.
This commit is contained in:
ddadmin
2026-04-25 23:13:41 +03:00
parent 53142fd341
commit 854bf55145
3 changed files with 32 additions and 23 deletions
Download Patch File Download Diff File Expand all files Collapse all files
docs/adr/005-onnx-asr-backend.md
+16 -14
View File
@@ -18,19 +18,20 @@
### Результаты
| Файл | Длит. | gigaam-v3 (CPU) | OpenVINO medium (CPU) | Ускорение |
|------|-------|-----------------|----------------------|-----------|
| 10-59-59 | 22:26 | 81с (16.6×) | 265с (5.1×) | **3.3×** |
| Vasya | 45:51 | 95с (29×) | 455с (6×) | **4.8×** |
| 12-02-37 | 1:20:44 | 170с (28.5×) | 779с (6.2×) | **4.6×** |
| Файл | Длит. | gigaam-v3 (CPU) | parakeet-v3 --ru (CPU) | OpenVINO medium (CPU) |
|------|-------|-----------------|----------------------|----------------------|
| 10-59-59 | 22:26 | 81с (16.6×) | 116с (11.6×) | 265с (5.1×) |
| Vasya | 45:51 | 95с (29×) | 138с (20×) | 455с (6×) |
| 12-02-37 | 1:20:44 | 170с (28.5×) | 251с (19.3×) | 779с (6.2×) |
### Качество (русская речь, файл 12-02-37)
| Модель | Пунктуация | Читаемость | Контекст |
|--------|-----------|-----------|----------|
| GPU f-whisper large-v3 | ✅ | Отлично | ✅ |
| **GigaAM v3 CTC (CPU)** | ❌ | Хорошо | ✅ |
| OpenVINO medium (CPU) | ✅ | Хорошо | ✅ |
| Модель | Пунктуация | Читаемость | Контекст | Особенности |
|--------|-----------|-----------|----------|-------------|
| GPU f-whisper large-v3 | ✅ | Отлично | ✅ | — |
| **GigaAM v3 CTC (CPU)** | ❌ | Хорошо | ✅ | Самый быстрый, без пунктуации |
| **Parakeet v3 --ru (CPU)** | ✅ | Хорошо | ✅ | Пунктуация, `<unk>` токены, ловит англ. вкрапления |
| OpenVINO medium (CPU) | ✅ | Хорошо | ✅ | Самый медленный |
GigaAM v3 не расставляет знаки препинания, но контекст разговора полностью сохраняется — пригоден для конспектирования и дальнейшей LLM-обработки. VAD даёт более дробные сегменты (удобнее для навигации). Английскую речь не понимает (модель обучена только на русском).
@@ -39,18 +40,19 @@ GigaAM v3 не расставляет знаки препинания, но ко
**Оставить onnx-asr как экспериментальный бэкенд.** Доступен через `--device onnx`, не в цепочке авто-детекта.
Модели:
- `gigaam-v3` — по умолчанию для `--device onnx`. Русский, 4.7% WER, 17-29x RTF на CPU.
- `parakeet-v3` — мультиязычный fallback (25 языков, включая русский). 11% WER, 34x RTF.
- `gigaam-v3` — по умолчанию для `--device onnx`. Русский, 4.7% WER, 17-29x RTF на CPU. Без пунктуации.
- `parakeet-v3` — мультиязычный (25 языков). 11% WER, 12-20x RTF. Для русского рекомендуется `--language ru`. С пунктуацией, но возможны `<unk>` токены.
Обе модели в int8-квантизации (~300 MB, минимальная потеря качества).
## Последствия
- Пользователи CPU получают 3-5x ускорение для русской речи по сравнению с OpenVINO
- Пунктуация отсутствует (GigaAM не обучен её ставить) — приемлемо для конспектирования
- gigaam-v3: максимальная скорость, без пунктуации — пригоден для конспектирования
- parakeet-v3: с пунктуацией, медленнее gigaam на 40%, для русского нужен явный `--language ru`
- Мультиязычные записи требуют `--model parakeet-v3`
- Бэкенд не в авто-детекте — пользователь должен явно указать `--device onnx`
- В будущем: добавить parakeet-v3 в авто-детект для мультиязыка, рассмотреть Canary для лучшего качества
- В будущем: добавить onnx в авто-детект, рассмотреть Canary для лучшего качества
## Отклонённые альтернативы