docs(research): опубликовано исследование embedding-инференса #37

Merged
ddmitry merged 6 commits from docs/publish-diarization-research into master 2026-08-30 21:07:26 +03:00
2 changed files with 11 additions and 11 deletions
Showing only changes of commit 6f0adf2eb0 - Show all commits

No files matched your search

+2 -2
View File
@@ -353,8 +353,8 @@ faster-whisper её не поддерживает, и запуск с `--device
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
длительностью 43:37. Это результат на одной из доступных тестовых машин, а не
прогноз производительности на других CPU.
длительностью 43:37. Замер описывает только эту тестовую машину; скорость на
других CPU требует отдельного прогона.
Методика и качественное сравнение:
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
+9 -9
View File
@@ -13,7 +13,7 @@
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
Multilingual Large добавлена как явный качественный профиль; решение о default
по-прежнему ждёт длинных негативных примеров и проверки производительности на
по-прежнему ждет длинных негативных примеров и проверки производительности на
нескольких доступных классах CPU.
Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель
@@ -76,12 +76,13 @@ Multilingual Large добавлена как явный качественный
- использовать минимум два доступных x86-ориентира: консервативный baseline на
Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H;
- для каждого прогона записывать точный SKU, физические ядра и логические
потоки, CPUID/ISA, объём RAM, power mode и фактическое число потоков;
потоки, CPUID/ISA, объем RAM, power mode и фактическое число потоков;
- Ryzen использовать как основную машину для итераций и как современный
контролируемый baseline, а не переносить его результат на остальные CPU;
контролируемый baseline. Результат относится только к зафиксированной
конфигурации;
- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple
Silicon как данные о переносимости. Такие внешние прогоны не заменяют
контролируемую матрицу;
Silicon как данные о переносимости; в контролируемую матрицу входят два
предыдущих x86 baseline;
- измерять отдельно cold start/загрузку модели и warm transcription, медиану
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
@@ -148,10 +149,9 @@ Multilingual Large добавлена как явный качественный
**Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а
пользователи работают на ноутбуках разных поколений и производителей.
Встречаются и машины уровня Intel Core i5 11-го поколения, но это пример
распространенной конфигурации, а не целевой SKU. GigaAM v3 остается рабочей
явной альтернативой для русского, но выбор безопасного auto/default требует
сравнительного бенчмарка.
Среди них встречаются и более скромные машины уровня Intel Core i5 11-го
поколения. GigaAM v3 остается рабочей явной альтернативой для русского, но
выбор безопасного auto/default требует сравнительного бенчмарка.
---