docs(cpu): уточнена аппаратная матрица
- Зачем: - Конкретный Core i5 ошибочно стал обязательной приемочной машиной при разнородном парке пользователей. - Что: - CPU-дефолт отделен от воспроизводимых Intel и AMD baseline. - README, backlog и исследование приведены к единой терминологии. - Проверка: - `git diff --check`.
This commit is contained in:
1 parent
b09036eaa3
commit
2fc777fdee
3 files changed
+35
-19
No files matched your search
@@ -353,7 +353,8 @@ faster-whisper её не поддерживает, и запуск с `--device
|
|||||||
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
|
| `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ |
|
||||||
|
|
||||||
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
|
\* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей
|
||||||
длительностью 43:37. Это не приёмочный замер для целевого Intel Core i5.
|
длительностью 43:37. Это результат на одной из доступных тестовых машин, а не
|
||||||
|
прогноз производительности на других CPU.
|
||||||
Методика и качественное сравнение:
|
Методика и качественное сравнение:
|
||||||
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
|
[benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md).
|
||||||
|
|
||||||
|
|||||||
+24
-11
@@ -13,7 +13,12 @@
|
|||||||
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
|
**Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена
|
||||||
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
|
и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md).
|
||||||
Multilingual Large добавлена как явный качественный профиль; решение о default
|
Multilingual Large добавлена как явный качественный профиль; решение о default
|
||||||
по-прежнему ждёт целевого Intel Core i5 и длинных негативных примеров.
|
по-прежнему ждёт длинных негативных примеров и проверки производительности на
|
||||||
|
нескольких доступных классах CPU.
|
||||||
|
|
||||||
|
Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель
|
||||||
|
и `compute_type`, выбранные без явных аргументов пользователя. Целевого
|
||||||
|
процессора и обязательного эталонного SKU у проекта нет.
|
||||||
|
|
||||||
**Проблема:** текущий CPU-путь через OpenVINO Whisper medium нестабилен на
|
**Проблема:** текущий CPU-путь через OpenVINO Whisper medium нестабилен на
|
||||||
длинных записях с тихими участками: модель генерирует правдоподобные повторы и
|
длинных записях с тихими участками: модель генерирует правдоподобные повторы и
|
||||||
@@ -68,10 +73,15 @@ Multilingual Large добавлена как явный качественный
|
|||||||
|
|
||||||
**Матрица производительности:**
|
**Матрица производительности:**
|
||||||
|
|
||||||
- обязательный прогон на реальном Intel Core i5 11-го поколения; точный SKU,
|
- использовать минимум два доступных x86-ориентира: консервативный baseline на
|
||||||
число ядер, объём RAM, power mode и число потоков записать вместе с результатом;
|
Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H;
|
||||||
- Ryzen 7 8845H разработчика и ограничение числа потоков использовать только для
|
- для каждого прогона записывать точный SKU, физические ядра и логические
|
||||||
предварительного smoke-теста, не как приёмку производительности i5;
|
потоки, CPUID/ISA, объём RAM, power mode и фактическое число потоков;
|
||||||
|
- Ryzen использовать как основную машину для итераций и как современный
|
||||||
|
контролируемый baseline, а не переносить его результат на остальные CPU;
|
||||||
|
- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple
|
||||||
|
Silicon как данные о переносимости. Такие внешние прогоны не заменяют
|
||||||
|
контролируемую матрицу;
|
||||||
- измерять отдельно cold start/загрузку модели и warm transcription, медиану
|
- измерять отдельно cold start/загрузку модели и warm transcription, медиану
|
||||||
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
|
трёх прогонов, RTFx, peak RSS и размер скачиваемой модели;
|
||||||
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
|
- короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин —
|
||||||
@@ -92,8 +102,9 @@ Multilingual Large добавлена как явный качественный
|
|||||||
|
|
||||||
**Если подтвердится бенчмарком:**
|
**Если подтвердится бенчмарком:**
|
||||||
|
|
||||||
- Если E2E RNN-T сохраняет качество и приемлемую скорость на i5 — сделать его
|
- Если E2E RNN-T сохраняет качество и приемлемую скорость на выбранной
|
||||||
русским CPU-дефолтом, OpenVINO оставить явной опцией.
|
CPU-матрице - сделать его русским CPU-дефолтом, OpenVINO оставить явной
|
||||||
|
опцией.
|
||||||
- Если лучший вариант зависит от языка — выбрать language-aware default:
|
- Если лучший вариант зависит от языка — выбрать language-aware default:
|
||||||
GigaAM v3 для русского, multilingual-модель для смешанной речи.
|
GigaAM v3 для русского, multilingual-модель для смешанной речи.
|
||||||
- Если модели GigaAM проигрывают по пунктуации/смыслу — сохранить текущий
|
- Если модели GigaAM проигрывают по пунктуации/смыслу — сохранить текущий
|
||||||
@@ -135,10 +146,12 @@ Multilingual Large добавлена как явный качественный
|
|||||||
- Переключить русский CPU-дефолт на победителя сравнительного GigaAM-бенчмарка.
|
- Переключить русский CPU-дефолт на победителя сравнительного GigaAM-бенчмарка.
|
||||||
- Предупреждать пользователя при `--device openvino-cpu` для файлов >30 мин.
|
- Предупреждать пользователя при `--device openvino-cpu` для файлов >30 мин.
|
||||||
|
|
||||||
**Приоритет:** высокий — проблема затрагивает текущий OpenVINO CPU-путь, а
|
**Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а
|
||||||
целевая аудитория включает ноутбуки с Intel Core i5 11-го поколения. GigaAM v3
|
пользователи работают на ноутбуках разных поколений и производителей.
|
||||||
остаётся рабочей явной альтернативой для русского, но выбор безопасного
|
Встречаются и машины уровня Intel Core i5 11-го поколения, но это пример
|
||||||
auto/default требует сравнительного бенчмарка.
|
распространенной конфигурации, а не целевой SKU. GigaAM v3 остается рабочей
|
||||||
|
явной альтернативой для русского, но выбор безопасного auto/default требует
|
||||||
|
сравнительного бенчмарка.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
|
|||||||
@@ -206,14 +206,16 @@ inter-op threads: 1
|
|||||||
sherpa-onnx API ради TitaNet преждевременно. CAMPPlus и batch без mask в эту
|
sherpa-onnx API ради TitaNet преждевременно. CAMPPlus и batch без mask в эту
|
||||||
границу не входят.
|
границу не входят.
|
||||||
|
|
||||||
Минимальная CPU-матрица для обоих непосредственных кандидатов:
|
Минимальная доступная CPU-матрица для обоих непосредственных кандидатов:
|
||||||
|
|
||||||
| Класс | Конкретный доступный ориентир | Зачем |
|
| Класс | Конкретный доступный ориентир | Зачем |
|
||||||
|---|---|---|
|
|---|---|---|
|
||||||
| AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. |
|
| Консервативный x86 baseline: AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. |
|
||||||
| VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. |
|
| Современный x86 baseline: VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. |
|
||||||
|
|
||||||
Фактический целевой Core i5 11-го поколения добавить как приемочную машину,
|
Эти две машины доступны для воспроизводимых прогонов; ни одна из них не является
|
||||||
когда он появится; перед запуском записать точную модель и CPUID. Двух машин
|
целевым SKU проекта. Ноутбук с Intel Core i5 11-го поколения - лишь пример
|
||||||
достаточно, чтобы решить судьбу кандидата на двух ISA-классах. Переносить
|
распространенного пользовательского класса и не обязательная приемочная машина.
|
||||||
полученный коэффициент ускорения на весь x86 нельзя.
|
Для первого отбора кандидата двух ориентиров достаточно; на любой дополнительной
|
||||||
|
машине нужно записывать точную модель и CPUID. Переносить полученный коэффициент
|
||||||
|
ускорения на весь x86 нельзя.
|
||||||
Reference in new issue
Block a user