From 2fc777fdee28cdca6dfed51475b6f95768231b94 Mon Sep 17 00:00:00 2001 From: Dmitry Dementiev Date: Sun, 30 Aug 2026 20:58:18 +0300 Subject: [PATCH] =?UTF-8?q?docs(cpu):=20=D1=83=D1=82=D0=BE=D1=87=D0=BD?= =?UTF-8?q?=D0=B5=D0=BD=D0=B0=20=D0=B0=D0=BF=D0=BF=D0=B0=D1=80=D0=B0=D1=82?= =?UTF-8?q?=D0=BD=D0=B0=D1=8F=20=D0=BC=D0=B0=D1=82=D1=80=D0=B8=D1=86=D0=B0?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - Зачем: - Конкретный Core i5 ошибочно стал обязательной приемочной машиной при разнородном парке пользователей. - Что: - CPU-дефолт отделен от воспроизводимых Intel и AMD baseline. - README, backlog и исследование приведены к единой терминологии. - Проверка: - `git diff --check`. --- README.md | 3 +- docs/backlog.md | 35 +++++++++++++------ ...6-08-30-diarization-embedding-inference.md | 16 +++++---- 3 files changed, 35 insertions(+), 19 deletions(-) diff --git a/README.md b/README.md index 3278ee2..88a75d4 100644 --- a/README.md +++ b/README.md @@ -353,7 +353,8 @@ faster-whisper её не поддерживает, и запуск с `--device | `parakeet-v3` | ~600 MB | 7,6×* | 25 языков | ✅ | \* Наблюдение на AMD Ryzen 7 8845H, Windows, `int8`, три записи общей -длительностью 43:37. Это не приёмочный замер для целевого Intel Core i5. +длительностью 43:37. Это результат на одной из доступных тестовых машин, а не +прогноз производительности на других CPU. Методика и качественное сравнение: [benchmark GigaAM и Whisper](docs/benchmarks/2026-08-11-gigaam-model-comparison.md). diff --git a/docs/backlog.md b/docs/backlog.md index ed6450b..6f75754 100644 --- a/docs/backlog.md +++ b/docs/backlog.md @@ -13,7 +13,12 @@ **Промежуточный статус 2026-08-11:** короткая матрица на трёх записях завершена и описана в [benchmark GigaAM и Whisper](benchmarks/2026-08-11-gigaam-model-comparison.md). Multilingual Large добавлена как явный качественный профиль; решение о default -по-прежнему ждёт целевого Intel Core i5 и длинных негативных примеров. +по-прежнему ждёт длинных негативных примеров и проверки производительности на +нескольких доступных классах CPU. + +Под CPU-дефолтом в этом разделе понимается программный профиль: backend, модель +и `compute_type`, выбранные без явных аргументов пользователя. Целевого +процессора и обязательного эталонного SKU у проекта нет. **Проблема:** текущий CPU-путь через OpenVINO Whisper medium нестабилен на длинных записях с тихими участками: модель генерирует правдоподобные повторы и @@ -68,10 +73,15 @@ Multilingual Large добавлена как явный качественный **Матрица производительности:** -- обязательный прогон на реальном Intel Core i5 11-го поколения; точный SKU, - число ядер, объём RAM, power mode и число потоков записать вместе с результатом; -- Ryzen 7 8845H разработчика и ограничение числа потоков использовать только для - предварительного smoke-теста, не как приёмку производительности i5; +- использовать минимум два доступных x86-ориентира: консервативный baseline на + Intel Core i7-6820HQ и современный baseline на AMD Ryzen 7 8845H; +- для каждого прогона записывать точный SKU, физические ядра и логические + потоки, CPUID/ISA, объём RAM, power mode и фактическое число потоков; +- Ryzen использовать как основную машину для итераций и как современный + контролируемый baseline, а не переносить его результат на остальные CPU; +- при доступности отдельно собирать результаты на других x86-ноутбуках и Apple + Silicon как данные о переносимости. Такие внешние прогоны не заменяют + контролируемую матрицу; - измерять отдельно cold start/загрузку модели и warm transcription, медиану трёх прогонов, RTFx, peak RSS и размер скачиваемой модели; - короткий 15-минутный фрагмент нужен для итераций, полные записи 22–81 мин — @@ -92,8 +102,9 @@ Multilingual Large добавлена как явный качественный **Если подтвердится бенчмарком:** -- Если E2E RNN-T сохраняет качество и приемлемую скорость на i5 — сделать его - русским CPU-дефолтом, OpenVINO оставить явной опцией. +- Если E2E RNN-T сохраняет качество и приемлемую скорость на выбранной + CPU-матрице - сделать его русским CPU-дефолтом, OpenVINO оставить явной + опцией. - Если лучший вариант зависит от языка — выбрать language-aware default: GigaAM v3 для русского, multilingual-модель для смешанной речи. - Если модели GigaAM проигрывают по пунктуации/смыслу — сохранить текущий @@ -135,10 +146,12 @@ Multilingual Large добавлена как явный качественный - Переключить русский CPU-дефолт на победителя сравнительного GigaAM-бенчмарка. - Предупреждать пользователя при `--device openvino-cpu` для файлов >30 мин. -**Приоритет:** высокий — проблема затрагивает текущий OpenVINO CPU-путь, а -целевая аудитория включает ноутбуки с Intel Core i5 11-го поколения. GigaAM v3 -остаётся рабочей явной альтернативой для русского, но выбор безопасного -auto/default требует сравнительного бенчмарка. +**Приоритет:** высокий - проблема затрагивает текущий OpenVINO CPU-путь, а +пользователи работают на ноутбуках разных поколений и производителей. +Встречаются и машины уровня Intel Core i5 11-го поколения, но это пример +распространенной конфигурации, а не целевой SKU. GigaAM v3 остается рабочей +явной альтернативой для русского, но выбор безопасного auto/default требует +сравнительного бенчмарка. --- diff --git a/docs/research/2026-08-30-diarization-embedding-inference.md b/docs/research/2026-08-30-diarization-embedding-inference.md index fafdff6..ff14d56 100644 --- a/docs/research/2026-08-30-diarization-embedding-inference.md +++ b/docs/research/2026-08-30-diarization-embedding-inference.md @@ -206,14 +206,16 @@ inter-op threads: 1 sherpa-onnx API ради TitaNet преждевременно. CAMPPlus и batch без mask в эту границу не входят. -Минимальная CPU-матрица для обоих непосредственных кандидатов: +Минимальная доступная CPU-матрица для обоих непосредственных кандидатов: | Класс | Конкретный доступный ориентир | Зачем | |---|---|---| -| AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. | -| VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. | +| Консервативный x86 baseline: AVX2, без VNNI/AVX-512 | Intel Core i7-6820HQ, 4C/8T | Проверить нижнюю границу INT8 и конкуренцию на старом CPU. | +| Современный x86 baseline: VNNI + AVX-512 | AMD Ryzen 7 8845H из предыдущих замеров, с обязательной фиксацией `lscpu`/CPUID | Проверить специализированный INT8 kernel и масштабирование на 8C/16T. | -Фактический целевой Core i5 11-го поколения добавить как приемочную машину, -когда он появится; перед запуском записать точную модель и CPUID. Двух машин -достаточно, чтобы решить судьбу кандидата на двух ISA-классах. Переносить -полученный коэффициент ускорения на весь x86 нельзя. +Эти две машины доступны для воспроизводимых прогонов; ни одна из них не является +целевым SKU проекта. Ноутбук с Intel Core i5 11-го поколения - лишь пример +распространенного пользовательского класса и не обязательная приемочная машина. +Для первого отбора кандидата двух ориентиров достаточно; на любой дополнительной +машине нужно записывать точную модель и CPUID. Переносить полученный коэффициент +ускорения на весь x86 нельзя.