docs(research): опубликовано исследование embedding-инференса #37

2026-08-30T21:00:35+03:00

ddmitry commented

2026-08-30 21:00:35 +03:00

Что

В основную историю добавлено исследование ускорения embedding-инференса на x86 CPU.
В README, backlog и исследовании CPU-дефолт отделен от аппаратных baseline.
Core i7-6820HQ зафиксирован как консервативный x86 baseline, Ryzen 7 8845H - как современный; Core i5 11-го поколения больше не считается обязательной приемочной машиной.

Wayfinder

Карта: Спроектировать следующее ускорение CPU-диаризации.
Решение по embedding-инференсу: комментарий к исследовательскому тикету.

Проверка

git diff --check master...HEAD
Измененные фрагменты README и backlog проверены через writing-for-agents и ai-text-lint.
Production-код не менялся, тесты не запускались.

## Что - В основную историю добавлено исследование ускорения embedding-инференса на x86 CPU. - В README, backlog и исследовании CPU-дефолт отделен от аппаратных baseline. - Core i7-6820HQ зафиксирован как консервативный x86 baseline, Ryzen 7 8845H - как современный; Core i5 11-го поколения больше не считается обязательной приемочной машиной. ## Wayfinder - Карта: [Спроектировать следующее ускорение CPU-диаризации](https://git.dementev.space/ddmitry/local-transcriber/issues/31). - Решение по embedding-инференсу: [комментарий к исследовательскому тикету](https://git.dementev.space/ddmitry/local-transcriber/issues/32#issuecomment-2216). ## Проверка - `git diff --check master...HEAD` - Измененные фрагменты README и backlog проверены через `writing-for-agents` и `ai-text-lint`. - Production-код не менялся, тесты не запускались.

ddmitry added 4 commits 2026-08-30 21:00:36 +03:00

docs(research): добавлено исследование embedding-инференса bfabf09c83

- Зачем:
  - нужно выбрать реалистичный способ ускорения эмбеддингов на разных x86 CPU.
- Что:
  - зафиксированы ограничения batch, stream/session и static INT8 для трех моделей.
  - рекомендованы два прототипа и минимальная матрица CPU/ISA.
- Проверка:
  - git diff --cached --check.

docs(research): уточнены batch-контракты embedding-моделей 5c6697ecbf

- Зачем:
  - вопрос тикета требует проверить формы официальных release-графов, а исходная записка опиралась только на экспортные контракты.
- Что:
  - зафиксированы реальные формы и CPU smoke-test batch size 2 для WeSpeaker, CAMPPlus и TitaNet.
  - уточнены поддержка equal-length batch у CAMPPlus и fallback между S8S8, U8U8 и U8S8.
- Проверка:
  - git diff --check.

docs(research): выбрана схема оценки числа говорящих b09036eaa3

- Зачем:
  - быстрым моделям эмбеддингов нужен автоматический подсчет без повторного инференса.
- Что:
  - проверены возможности повторного использования эмбеддингов в публичном API sherpa-onnx.
  - сопоставлены порог, eigengap, NME-SC и двухшаговая кластеризация.
  - зафиксирована граница NumPy-прототипа без production-зависимости от NeMo.
- Проверка:
  - git diff --cached --check.

docs(cpu): уточнена аппаратная матрица 2fc777fdee

- Зачем:
  - Конкретный Core i5 ошибочно стал обязательной приемочной машиной при разнородном парке пользователей.
- Что:
  - CPU-дефолт отделен от воспроизводимых Intel и AMD baseline.
  - README, backlog и исследование приведены к единой терминологии.
- Проверка:
  - `git diff --check`.

ddmitry added 2 commits 2026-08-30 21:06:00 +03:00

docs(research): удалена преждевременная записка bcf264e0aa

- Зачем:
  - Исследование числа говорящих не проходило отдельный Wayfinder-тикет и не должно публиковаться как принятое решение.
- Что:
  - Записка об оценке числа говорящих удалена из publication-ветки.
- Проверка:
  - `git diff --check`.

docs(cpu): вычищены формулировки аппаратных baseline 6f0adf2eb0

- Зачем:
  - README и backlog должны одинаково и однозначно описывать границы CPU-замеров перед merge.
- Что:
  - Замер Ryzen ограничен одной зафиксированной тестовой машиной.
  - Из backlog убраны повтор и искусственные противопоставления вокруг целевого SKU.
- Проверка:
  - `git diff --check`.

ddmitry changed title from ~~docs(research): опубликованы исследования CPU-диаризации~~ to docs(research): опубликовано исследование embedding-инференса

2026-08-30 21:06:14 +03:00

ddmitry merged commit 9fc2dc0c6c into master

2026-08-30 21:07:26 +03:00

ddmitry deleted branch docs/publish-diarization-research

2026-08-30 21:07:27 +03:00

Sign in to join this conversation.

1 Participants

Notifications

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: ddmitry/local-transcriber#37