docs: уточнены ограничения авто-профиля и профиль turbo
- Зачем: - документация обещала large-v3-turbo на NVIDIA, где он недоступен, и умалчивала, что модель по умолчанию без CUDA понимает только русскую речь. - Что: - large-v3-turbo перенесён из таблицы faster-whisper в раздел OpenVINO с измеренными размерами моделей. - языковое ограничение авто-профиля и предупреждение CLI описаны в README, gpu.md и ADR-006. - в backlog добавлен пункт про turbo для faster-whisper, в gpu.md снято расхождение по скорости openvino-cpu. - Проверка: - вычитка diff, проверка якорной ссылки на docs/gpu.md.
This commit is contained in:
@@ -36,7 +36,11 @@ uv tool install git+https://github.com/dementev-dev/local-transcriber
|
||||
- **NVIDIA CUDA** (GPU): если есть GPU — транскрипция в 5-10× быстрее
|
||||
- **Windows**: `winget install -e --id Nvidia.CUDA --version 12.9` (от администратора), перезапустить терминал
|
||||
- **Linux / WSL2**: работает из коробки (нужен только драйвер: `nvidia-smi`)
|
||||
- **Без NVIDIA GPU**: автоматически используется ONNX с GigaAM RNN-T на CPU
|
||||
- **Без NVIDIA GPU**: автоматически используется ONNX с GigaAM RNN-T на CPU.
|
||||
Эта модель понимает только русскую речь
|
||||
- **Другие языки без NVIDIA**: выбирайте Whisper явно —
|
||||
`--device openvino-cpu --model medium` на x86 или `--device cpu --model medium`
|
||||
на любой платформе
|
||||
- **OpenVINO** для Intel GPU или x86 CPU остаётся доступен через явный
|
||||
`--device openvino`, `--device openvino-gpu` или `--device openvino-cpu`
|
||||
|
||||
@@ -183,7 +187,7 @@ transcribe --uninstall-menu
|
||||
| Опция | Сокращение | По умолчанию | Описание |
|
||||
|-------|-----------|-------------|----------|
|
||||
| `--model` | `-m` | medium (CUDA) / gigaam-v3-e2e-rnnt (ONNX) | Модель распознавания |
|
||||
| `--language` | `-l` | `ru` | Язык (ru, en, auto и др.) |
|
||||
| `--language` | `-l` | `ru` | Язык (ru, en, auto и др.); автоматический профиль без NVIDIA понимает только русский |
|
||||
| `--output` | `-o` | `<файл>-transcript.md` | Путь к выходному файлу |
|
||||
| `--device` | `-d` | `auto` | Устройство (auto, cpu, cuda, openvino, openvino-gpu, openvino-cpu, onnx) |
|
||||
| `--compute-type` | — | float16 (CUDA) / int8 (ONNX/OpenVINO) / float32 (CPU) | Тип вычислений |
|
||||
@@ -200,6 +204,9 @@ transcribe --uninstall-menu
|
||||
| OpenVINO (Intel GPU) | ✅ явно | — | ✅ явно |
|
||||
| GPU (NVIDIA) | ✅ авто | — | ✅ (нужен CUDA 12) |
|
||||
|
||||
Данные по macOS основаны на доступности пакетов onnxruntime: прогонов на этой
|
||||
платформе не было.
|
||||
|
||||
<details>
|
||||
<summary>Linux / WSL2</summary>
|
||||
|
||||
@@ -253,7 +260,9 @@ language = "ru"
|
||||
При `device = "auto"` выбирается CUDA, если доступен `nvidia-smi`, иначе ONNX.
|
||||
Явный `device` из CLI или конфига отключает этот автоматический выбор.
|
||||
Каталоги моделей различаются между бэкендами, поэтому при закреплении `model`
|
||||
в конфиге рекомендуется явно закрепить и совместимый `device`.
|
||||
в конфиге рекомендуется явно закрепить и совместимый `device`. То же с языком:
|
||||
автоматический ONNX-профиль рассчитан на русскую речь, а для остальных языков
|
||||
нужен Whisper — например, `device = "openvino-cpu"` и `model = "medium"`.
|
||||
|
||||
Дефолты зависят от устройства:
|
||||
|
||||
@@ -278,6 +287,8 @@ language = "ru"
|
||||
<details>
|
||||
<summary>Таблица моделей</summary>
|
||||
|
||||
#### Whisper через faster-whisper (`--device cuda`, `--device cpu`)
|
||||
|
||||
| Модель | Размер на диске | VRAM (int8) | Скорость (GPU) | Качество |
|
||||
|--------|----------------|-------------|----------------|----------|
|
||||
| `tiny` | ~75 MB | ~1 GB | ★★★★★ | ★ |
|
||||
@@ -285,7 +296,15 @@ language = "ru"
|
||||
| `small` | ~460 MB | ~1.5 GB | ★★★ | ★★★ |
|
||||
| `medium` | ~1.5 GB | ~2.5 GB | ★★ | ★★★★ |
|
||||
| `large-v3` | ~3 GB | ~2.5 GB | ★ | ★★★★★ |
|
||||
| `large-v3-turbo` | ~1 GB | — | ★★★★ | ★★★★ |
|
||||
|
||||
#### Whisper через OpenVINO (`--device openvino-cpu`, `--device openvino-gpu`)
|
||||
|
||||
Здесь те же модели Whisper, но предквантизированные, поэтому на диске они
|
||||
занимают меньше места: `medium` int8 — 748 MB, `large-v3-turbo` int8 — 790 MB,
|
||||
`large-v3-turbo` fp16 — 1552 MB. Модель `large-v3-turbo` доступна только здесь:
|
||||
faster-whisper её не поддерживает, и запуск с `--device cuda` завершится
|
||||
ошибкой. Полный список репозиториев —
|
||||
[docs/gpu.md](docs/gpu.md#доступные-openvino-модели).
|
||||
|
||||
#### ONNX-модели (`--device onnx`)
|
||||
|
||||
@@ -318,6 +337,9 @@ language = "ru"
|
||||
кыргызский и узбекский внутри одной записи. `onnx-asr` не передаёт этим моделям
|
||||
подсказку языка, поэтому `--language` не управляет выбором языка.
|
||||
|
||||
Если модель не понимает запрошенный язык, CLI предупреждает об этом до начала
|
||||
распознавания и подсказывает совместимый профиль, но работу не прерывает.
|
||||
|
||||
Для моделей из таблицы опубликованы `int8` и `float32`. Если неявный
|
||||
device-aware дефолт недоступен для выбранной модели, CLI сообщит о подстановке
|
||||
доступного варианта. Явное значение из `--compute-type` или
|
||||
@@ -359,7 +381,7 @@ device-aware дефолт недоступен для выбранной мод
|
||||
|
||||
- **Дата транскрипции**: 2026-03-17 14:30:05
|
||||
- **Модель**: large-v3
|
||||
- **Язык**: ru (detected)
|
||||
- **Язык**: ru (задан явно)
|
||||
- **Длительность**: 01:23:45
|
||||
- **Устройство**: CUDA (NVIDIA GeForce RTX 3060)
|
||||
|
||||
@@ -374,6 +396,14 @@ device-aware дефолт недоступен для выбранной мод
|
||||
Близкие по времени сегменты автоматически объединяются в абзацы (пауза > 2 сек или длительность > 60 сек разделяет абзацы).
|
||||
Таймкоды: `MM:SS.ss`, для записей длиннее 1 часа — `HH:MM:SS.ss`.
|
||||
|
||||
В скобках после языка указан его источник:
|
||||
|
||||
- `задан явно` — язык взят из `--language` или конфига;
|
||||
- `определён автоматически` — распознан моделью при `--language auto`;
|
||||
- `из профиля модели` — у модели всего один язык, как у GigaAM.
|
||||
|
||||
Если язык определить не удалось, строка выглядит так: `- **Язык**: не определён`.
|
||||
|
||||
</details>
|
||||
|
||||
## Поддерживаемые форматы
|
||||
|
||||
Reference in New Issue
Block a user