docs(research): опубликовано исследование embedding-инференса #37
No files matched your search
@@ -353,8 +353,8 @@ faster-whisper её не поддерживает, и запуск с `--device
|
|||||||
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
|
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
|
||||||
|
|
||||||
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
|
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
|
||||||
длительностью 43:37. Это результат на одной из доступных тестовых машин, а не
|
длительностью 43:37. Замер описывает только эту тестовую машину; скорость на
|
||||||
прогноз производительности на других CPU.
|
других CPU требует отдельного прогона.
|
||||||
Методика и качественное сравнение:
|
Методика и качественное сравнение:
|
||||||
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
|
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
|
||||||
|
|
||||||
|
|||||||
+9
-9
@@ -13,7 +13,7 @@
|
|||||||
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
|
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
|
||||||
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
|
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
|
||||||
Multilingual Large добавлена как явный качественный профиль; решение о default
|
Multilingual Large добавлена как явный качественный профиль; решение о default
|
||||||
по-прежнему ждёт длинных негативных примеров и проверки производительности на
|
по-прежнему ждет длинных негативных примеров и проверки производительности на
|
||||||
нескольких доступных классах CPU.
|
нескольких доступных классах CPU.
|
||||||
|
|
||||||
Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель
|
Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель
|
||||||
@@ -76,12 +76,13 @@ Multilingual Large добавлена как явный качественный
|
|||||||
- использовать минимум два доступных x86-ориентира: консервативный baseline на
|
- использовать минимум два доступных x86-ориентира: консервативный baseline на
|
||||||
Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H;
|
Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H;
|
||||||
- для каждого прогона записывать точный SKU, физические ядра и логические
|
- для каждого прогона записывать точный SKU, физические ядра и логические
|
||||||
потоки, CPUID/ISA, объём RAM, power mode и фактическое число потоков;
|
потоки, CPUID/ISA, объем RAM, power mode и фактическое число потоков;
|
||||||
- Ryzen использовать как основную машину для итераций и как современный
|
- Ryzen использовать как основную машину для итераций и как современный
|
||||||
контролируемый baseline, а не переносить его результат на остальные CPU;
|
контролируемый baseline. Результат относится только к зафиксированной
|
||||||
|
конфигурации;
|
||||||
- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple
|
- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple
|
||||||
Silicon как данные о переносимости. Такие внешние прогоны не заменяют
|
Silicon как данные о переносимости; в контролируемую матрицу входят два
|
||||||
контролируемую матрицу;
|
предыдущих x86 baseline;
|
||||||
- измерять отдельно cold start/загрузку модели и warm transcription, медиану
|
- измерять отдельно cold start/загрузку модели и warm transcription, медиану
|
||||||
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
|
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
|
||||||
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
|
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
|
||||||
@@ -148,10 +149,9 @@ Multilingual Large добавлена как явный качественный
|
|||||||
|
|
||||||
**Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а
|
**Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а
|
||||||
пользователи работают на ноутбуках разных поколений и производителей.
|
пользователи работают на ноутбуках разных поколений и производителей.
|
||||||
Встречаются и машины уровня Intel Core i5 11-го поколения, но это пример
|
Среди них встречаются и более скромные машины уровня Intel Core i5 11-го
|
||||||
распространенной конфигурации, а не целевой SKU. GigaAM v3 остается рабочей
|
поколения. GigaAM v3 остается рабочей явной альтернативой для русского, но
|
||||||
явной альтернативой для русского, но выбор безопасного auto/default требует
|
выбор безопасного auto/default требует сравнительного бенчмарка.
|
||||||
сравнительного бенчмарка.
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
|
|||||||
Reference in new issue
Block a user