docs(research): опубликовано исследование embedding-инференса #37

Merged
ddmitry merged 6 commits from docs/publish-diarization-research into master 2026-08-30 21:07:26 +03:00
3 changed files with 35 additions and 19 deletions
Showing only changes of commit 2fc777fdee - Show all commits

No files matched your search

+2 -1
View File
@@ -353,7 +353,8 @@ faster-whisper её не поддерживает, и запуск с `--device
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ | | `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей \* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
длительностью 43:37. Это не приёмочный замер для целевого Intel Core i5. длительностью 43:37. Это результат на одной из доступных тестовых машин, а не
прогноз производительности на других CPU.
Методика и качественное сравнение: Методика и качественное сравнение:
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md). [benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
+24 -11
View File
@@ -13,7 +13,12 @@
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена **Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md). и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
Multilingual Large добавлена как явный качественный профиль; решение о default Multilingual Large добавлена как явный качественный профиль; решение о default
по-прежнему ждёт целевого Intel Core i5 и длинных негативных примеров. по-прежнему ждёт длинных негативных примеров и проверки производительности на
нескольких доступных классах CPU.
Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель
и `compute_type`, выбранные без явных аргументов пользователя. Целевого
процессора и обязательного эталонного SKU у проекта нет.
**Проблема:** текущий CPU-путь через OpenVINO Whisper medium нестабилен на **Проблема:** текущий CPU-путь через OpenVINO Whisper medium нестабилен на
длинных записях с тихими участками: модель генерирует правдоподобные повторы и длинных записях с тихими участками: модель генерирует правдоподобные повторы и
@@ -68,10 +73,15 @@ Multilingual Large добавлена как явный качественный
**Матрица производительности:** **Матрица производительности:**
- обязательный прогон на реальном Intel Core i5 11-го поколения; точный SKU, - использовать минимум два доступных x86-ориентира: консервативный baseline на
число ядер, объём RAM, power mode и число потоков записать вместе с результатом; Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H;
- Ryzen 7 8845H разработчика и ограничение числа потоков использовать только для - для каждого прогона записывать точный SKU, физические ядра и логические
предварительного smoke-теста, не как приёмку производительности i5; потоки, CPUID/ISA, объём RAM, power mode и фактическое число потоков;
- Ryzen использовать как основную машину для итераций и как современный
контролируемый baseline, а не переносить его результат на остальные CPU;
- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple
Silicon как данные о переносимости. Такие внешние прогоны не заменяют
контролируемую матрицу;
- измерять отдельно cold start/загрузку модели и warm transcription, медиану - измерять отдельно cold start/загрузку модели и warm transcription, медиану
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели; трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин — - короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
@@ -92,8 +102,9 @@ Multilingual Large добавлена как явный качественный
**Если подтвердится бенчмарком:** **Если подтвердится бенчмарком:**
- Если E2E RNN-T сохраняет качество и приемлемую скорость на i5 — сделать его - Если E2E RNN-T сохраняет качество и приемлемую скорость на выбранной
русским CPU-дефолтом, OpenVINO оставить явной опцией. CPU-матрице - сделать его русским CPU-дефолтом, OpenVINO оставить явной
опцией.
- Если лучший вариант зависит от языка — выбрать language-aware default: - Если лучший вариант зависит от языка — выбрать language-aware default:
GigaAM v3 для русского, multilingual-модель для смешанной речи. GigaAM v3 для русского, multilingual-модель для смешанной речи.
- Если модели GigaAM проигрывают по пунктуации/смыслу — сохранить текущий - Если модели GigaAM проигрывают по пунктуации/смыслу — сохранить текущий
@@ -135,10 +146,12 @@ Multilingual Large добавлена как явный качественный
- Переключить русский CPU-дефолт на победителя сравнительного GigaAM-бенчмарка. - Переключить русский CPU-дефолт на победителя сравнительного GigaAM-бенчмарка.
- Предупреждать пользователя при `--device openvino-cpu` для файлов >30 мин. - Предупреждать пользователя при `--device openvino-cpu` для файлов >30 мин.
**Приоритет:** высокий — проблема затрагивает текущий OpenVINO CPU-путь, а **Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а
целевая аудитория включает ноутбуки с Intel Core i5 11-го поколения. GigaAM v3 пользователи работают на ноутбуках разных поколений и производителей.
остаётся рабочей явной альтернативой для русского, но выбор безопасного Встречаются и машины уровня Intel Core i5 11-го поколения, но это пример
auto/default требует сравнительного бенчмарка. распространенной конфигурации, а не целевой SKU. GigaAM v3 остается рабочей
явной альтернативой для русского, но выбор безопасного auto/default требует
сравнительного бенчмарка.
--- ---
@@ -206,14 +206,16 @@ inter-op threads: 1
sherpa-onnx API ради TitaNet преждевременно. CAMPPlus и batch без mask в эту sherpa-onnx API ради TitaNet преждевременно. CAMPPlus и batch без mask в эту
границу не входят. границу не входят.
Минимальная CPU-матрица для обоих непосредственных кандидатов: Минимальная доступная CPU-матрица для обоих непосредственных кандидатов:
| Класс | Конкретный доступный ориентир | Зачем | | Класс | Конкретный доступный ориентир | Зачем |
|---|---|---| |---|---|---|
| AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. | | Консервативный x86 baseline: AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. |
| VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. | | Современный x86 baseline: VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. |
Фактический целевой Core i5 11-го поколения добавить как приемочную машину, Эти две машины доступны для воспроизводимых прогонов; ни одна из них не является
когда он появится; перед запуском записать точную модель и CPUID. Двух машин целевым SKU проекта. Ноутбук с Intel Core i5 11-го поколения - лишь пример
достаточно, чтобы решить судьбу кандидата на двух ISA-классах. Переносить распространенного пользовательского класса и не обязательная приемочная машина.
полученный коэффициент ускорения на весь x86 нельзя. Для первого отбора кандидата двух ориентиров достаточно; на любой дополнительной
машине нужно записывать точную модель и CPUID. Переносить полученный коэффициент
ускорения на весь x86 нельзя.