docs(adr): ADR-005 — Parakeet TDT оценён и отклонён для русских ИТ-встреч
- Зачем:
- зафиксировать в master результат эксперимента с Parakeet-бэкендом:
что проверяли, какие цифры получили, почему оставили Whisper как дефолт.
Знания доступны, код — в экспериментальной ветке feature/parakeet-backend.
- Что:
- docs/adr/005-parakeet-evaluation.md — полный контекст решения: гипотеза,
методология, метрики скорости (Parakeet 2.7x быстрее, -35% RAM),
качество (Summary utility 2-3/5 vs 4/5 у Whisper), систематические
проблемы модели на тихой русской речи, VAD-тюнинг не помог, условия
пересмотра решения в будущем (английский / live-captioning / русские
specialized-модели через onnx-asr).
- docs/gpu.md — короткая заметка под «Потенциальные направления развития»
со ссылкой на ADR-005.
- Проверка:
- cat docs/adr/005-parakeet-evaluation.md.
- grep -A5 "Parakeet TDT — проверено" docs/gpu.md.
- ветка feature/parakeet-backend сохранена и не удаляется.
This commit is contained in:
+13
@@ -286,6 +286,19 @@ VAD) доступен только через CTranslate2, т.е. на CPU и NV
|
||||
вариант (включая int8_float32) вызывает галлюцинации — float32 аккумулятор не спасает
|
||||
глубокую модель на GPU. Вывод: **float16 остаётся оптимальным дефолтом для CUDA**.
|
||||
|
||||
### NVIDIA Parakeet TDT — проверено, отклонено
|
||||
|
||||
Оценивалась гипотеза: multilingual Parakeet TDT 0.6B v3 через `onnx-asr` может обойти
|
||||
Whisper medium int8 на x86 CPU. На двух 15-минутных отрывках реальных русских ИТ-встреч
|
||||
(Intel i7-11800H) Parakeet показал **2.7x преимущество по скорости** и **-35% RAM**, но
|
||||
**качество ниже** — систематическая редукция тихих реплик менти до `Mm-hmm`, вставки
|
||||
кусков польского/испанского, сильное искажение ИТ-терминов. Попытка тюнинга Silero VAD
|
||||
threshold не помогла — проблема inherent для модели на тихой русской речи.
|
||||
|
||||
Код бэкенда не вмержен в master; эксперимент сохранён в ветке
|
||||
`feature/parakeet-backend`. Подробности и когда стоит пересмотреть —
|
||||
[ADR-005](adr/005-parakeet-evaluation.md).
|
||||
|
||||
## Troubleshooting
|
||||
|
||||
### CUDA не обнаружен
|
||||
|
||||
Reference in New Issue
Block a user