feat(onnx): изменена модель по умолчанию на GigaAM RNN-T
- Зачем: - пользователям нужен читаемый транскрипт без обязательной LLM-обработки. - Что: - моделью ONNX по умолчанию выбрана `gigaam-v3-e2e-rnnt`. - сохранён явный профиль `gigaam-v3` для более точного сырого текста. - обновлены тест, README, спецификация, ADR и benchmark. - Проверка: - `uv run pytest -q` — 226 passed, 1 skipped. - `git diff --check`.
This commit is contained in:
@@ -83,11 +83,18 @@ CTranslate2, а onnx-путь ставится в CPU-варианте.
|
||||
|
||||
Конкретные номера берутся из `uv.lock` при реализации.
|
||||
|
||||
## Последующее решение о модели по умолчанию
|
||||
|
||||
После сравнительного прогона на трёх реальных записях и обсуждения двух
|
||||
основных потребителей транскрипта модель `gigaam-v3-e2e-rnnt` выбрана моделью
|
||||
по умолчанию для явного `--device onnx`. Она всего на 2% медленнее сырого
|
||||
`gigaam-v3`, но выдаёт пунктуацию для чтения человеком; `gigaam-v3` остаётся
|
||||
явным профилем с приоритетом дословной точности и последующей обработки LLM.
|
||||
Это решение не включает ONNX в auto-detect.
|
||||
|
||||
## Чего не делаем
|
||||
|
||||
- Не меняем модель по умолчанию и auto-detect: `gigaam-v3` остаётся дефолтом
|
||||
`--device onnx`. Решение о CPU-дефолте требует замеров на целевом Intel Core
|
||||
i5, которого сейчас нет в доступе.
|
||||
- Не меняем auto-detect: ONNX остаётся только явным выбором пользователя.
|
||||
- Не обновляем OpenVINO, OpenVINO GenAI и CTranslate2. Whisper medium на
|
||||
OpenVINO — то, с чем сравниваются новые модели; менять его движок
|
||||
одновременно значит потерять точку отсчёта. Верхние границы версий им при
|
||||
@@ -156,8 +163,9 @@ Python и зависимости при неизменных моделях —
|
||||
|
||||
## Документация
|
||||
|
||||
README: четыре модели в таблицу ONNX-моделей. Для русского без пунктуации
|
||||
рекомендуется `gigaam-v3`, для готового читаемого текста — E2E RNN-T, для
|
||||
README: поддерживаемые модели добавляются в таблицу ONNX-моделей. Для готового
|
||||
читаемого русского текста и как модель по умолчанию используется E2E RNN-T,
|
||||
для русского без пунктуации и LLM-пайплайнов остаётся явный `gigaam-v3`, для
|
||||
смешанной речи с приоритетом качества — multilingual large. Скорость на слабых
|
||||
CPU не измерялась. Требование Python
|
||||
правится в [`docs/PRD.md`](../PRD.md) — раздел «Требования» и таблица
|
||||
|
||||
Reference in New Issue
Block a user