docs(cpu): уточнена аппаратная матрица
- Зачем: - Конкретный Core i5 ошибочно стал обязательной приемочной машиной при разнородном парке пользователей. - Что: - CPU-дефолт отделен от воспроизводимых Intel и AMD baseline. - README, backlog и исследование приведены к единой терминологии. - Проверка: - `git diff --check`.
This commit is contained in:
1 parent
b09036eaa3
commit
2fc777fdee
3 files changed
+35
-19
No files matched your search
@@ -353,7 +353,8 @@ faster-whisper её не поддерживает, и запуск с `--device
|
||||
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
|
||||
|
||||
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
|
||||
длительностью 43:37. Это не приёмочный замер для целевого Intel Core i5.
|
||||
длительностью 43:37. Это результат на одной из доступных тестовых машин, а не
|
||||
прогноз производительности на других CPU.
|
||||
Методика и качественное сравнение:
|
||||
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
|
||||
|
||||
|
||||
+24
-11
@@ -13,7 +13,12 @@
|
||||
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
|
||||
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
|
||||
Multilingual Large добавлена как явный качественный профиль; решение о default
|
||||
по-прежнему ждёт целевого Intel Core i5 и длинных негативных примеров.
|
||||
по-прежнему ждёт длинных негативных примеров и проверки производительности на
|
||||
нескольких доступных классах CPU.
|
||||
|
||||
Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель
|
||||
и `compute_type`, выбранные без явных аргументов пользователя. Целевого
|
||||
процессора и обязательного эталонного SKU у проекта нет.
|
||||
|
||||
**Проблема:** текущий CPU-путь через OpenVINO Whisper medium нестабилен на
|
||||
длинных записях с тихими участками: модель генерирует правдоподобные повторы и
|
||||
@@ -68,10 +73,15 @@ Multilingual Large добавлена как явный качественный
|
||||
|
||||
**Матрица производительности:**
|
||||
|
||||
- обязательный прогон на реальном Intel Core i5 11-го поколения; точный SKU,
|
||||
число ядер, объём RAM, power mode и число потоков записать вместе с результатом;
|
||||
- Ryzen 7 8845H разработчика и ограничение числа потоков использовать только для
|
||||
предварительного smoke-теста, не как приёмку производительности i5;
|
||||
- использовать минимум два доступных x86-ориентира: консервативный baseline на
|
||||
Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H;
|
||||
- для каждого прогона записывать точный SKU, физические ядра и логические
|
||||
потоки, CPUID/ISA, объём RAM, power mode и фактическое число потоков;
|
||||
- Ryzen использовать как основную машину для итераций и как современный
|
||||
контролируемый baseline, а не переносить его результат на остальные CPU;
|
||||
- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple
|
||||
Silicon как данные о переносимости. Такие внешние прогоны не заменяют
|
||||
контролируемую матрицу;
|
||||
- измерять отдельно cold start/загрузку модели и warm transcription, медиану
|
||||
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
|
||||
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
|
||||
@@ -92,8 +102,9 @@ Multilingual Large добавлена как явный качественный
|
||||
|
||||
**Если подтвердится бенчмарком:**
|
||||
|
||||
- Если E2E RNN-T сохраняет качество и приемлемую скорость на i5 — сделать его
|
||||
русским CPU-дефолтом, OpenVINO оставить явной опцией.
|
||||
- Если E2E RNN-T сохраняет качество и приемлемую скорость на выбранной
|
||||
CPU-матрице - сделать его русским CPU-дефолтом, OpenVINO оставить явной
|
||||
опцией.
|
||||
- Если лучший вариант зависит от языка — выбрать language-aware default:
|
||||
GigaAM v3 для русского, multilingual-модель для смешанной речи.
|
||||
- Если модели GigaAM проигрывают по пунктуации/смыслу — сохранить текущий
|
||||
@@ -135,10 +146,12 @@ Multilingual Large добавлена как явный качественный
|
||||
- Переключить русский CPU-дефолт на победителя сравнительного GigaAM-бенчмарка.
|
||||
- Предупреждать пользователя при `--device openvino-cpu` для файлов >30 мин.
|
||||
|
||||
**Приоритет:** высокий — проблема затрагивает текущий OpenVINO CPU-путь, а
|
||||
целевая аудитория включает ноутбуки с Intel Core i5 11-го поколения. GigaAM v3
|
||||
остаётся рабочей явной альтернативой для русского, но выбор безопасного
|
||||
auto/default требует сравнительного бенчмарка.
|
||||
**Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а
|
||||
пользователи работают на ноутбуках разных поколений и производителей.
|
||||
Встречаются и машины уровня Intel Core i5 11-го поколения, но это пример
|
||||
распространенной конфигурации, а не целевой SKU. GigaAM v3 остается рабочей
|
||||
явной альтернативой для русского, но выбор безопасного auto/default требует
|
||||
сравнительного бенчмарка.
|
||||
|
||||
---
|
||||
|
||||
|
||||
@@ -206,14 +206,16 @@ inter-op threads: 1
|
||||
sherpa-onnx API ради TitaNet преждевременно. CAMPPlus и batch без mask в эту
|
||||
границу не входят.
|
||||
|
||||
Минимальная CPU-матрица для обоих непосредственных кандидатов:
|
||||
Минимальная доступная CPU-матрица для обоих непосредственных кандидатов:
|
||||
|
||||
| Класс | Конкретный доступный ориентир | Зачем |
|
||||
|---|---|---|
|
||||
| AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. |
|
||||
| VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. |
|
||||
| Консервативный x86 baseline: AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. |
|
||||
| Современный x86 baseline: VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. |
|
||||
|
||||
Фактический целевой Core i5 11-го поколения добавить как приемочную машину,
|
||||
когда он появится; перед запуском записать точную модель и CPUID. Двух машин
|
||||
достаточно, чтобы решить судьбу кандидата на двух ISA-классах. Переносить
|
||||
полученный коэффициент ускорения на весь x86 нельзя.
|
||||
Эти две машины доступны для воспроизводимых прогонов; ни одна из них не является
|
||||
целевым SKU проекта. Ноутбук с Intel Core i5 11-го поколения - лишь пример
|
||||
распространенного пользовательского класса и не обязательная приемочная машина.
|
||||
Для первого отбора кандидата двух ориентиров достаточно; на любой дополнительной
|
||||
машине нужно записывать точную модель и CPUID. Переносить полученный коэффициент
|
||||
ускорения на весь x86 нельзя.
|
||||
Reference in new issue
Block a user