ddmitry/local-transcriber
1
0 Fork 0
Code Issues 5 Pull Requests Actions Packages Projects Releases Wiki Activity

Собрать минимальную матрицу следующего CPU-эксперимента #34

New Issue
Closed
opened 2026-08-30 13:28:49 +03:00 by ddmitry · 2 comments
ddmitry commented 2026-08-30 13:28:49 +03:00
Owner
Copy link
Copy source

Часть карты: Спроектировать следующее ускорение CPU-диаризации (#31)

Question

Какой минимальный набор вариантов и контрольных точек даст решение о следующем профиле после ответов про шаг окна, оценку числа говорящих, embedding-инференс и аппаратные границы? Нужно выбрать сочетания, порядок дешевых и дорогих прогонов, старый и современный CPU, счетчики работы, метрики качества, число повторов, режим питания и температуры, бюджет RSS и stop/go-критерии. Результат - готовая постановка отдельной задачи на эксперимент, без самого полного прогона и без production-изменений.

Часть карты: [Спроектировать следующее ускорение CPU-диаризации](https://git.dementev.space/ddmitry/local-transcriber/issues/31) (#31) ## Question Какой минимальный набор вариантов и контрольных точек даст решение о следующем профиле после ответов про шаг окна, оценку числа говорящих, embedding-инференс и аппаратные границы? Нужно выбрать сочетания, порядок дешевых и дорогих прогонов, старый и современный CPU, счетчики работы, метрики качества, число повторов, режим питания и температуры, бюджет RSS и stop/go-критерии. Результат - готовая постановка отдельной задачи на эксперимент, без самого полного прогона и без production-изменений.
ddmitry added the wayfinder:grilling label 2026-08-30 13:28:49 +03:00
ddmitry self-assigned this 2026-08-30 23:27:45 +03:00
ddmitry commented 2026-08-31 00:18:13 +03:00
Author
Owner
Copy link
Copy source

Решение: следующий CPU-эксперимент идет ступенчатой воронкой, которая отсеивает явные проигрыши без полного декартова перебора и без дополнительных прогонов ради малой точности.

  • совпадающий baseline: sherpa-onnx 1.13.6, Pyannote FP32, WeSpeaker FP32, window_shift_ratio=0.1;
  • первичный отсев: по одному прогону трех фрагментов на Intel, отдельные ISA-чувствительные A/B на Ryzen;
  • комбинации: не больше трех на Intel и двух на Ryzen;
  • пять A/B-циклов получают только максимум два финалиста;
  • go: минимум 30% сокращения времени диаризации на Ryzen при выполнении условий качества; около 2x остается ориентиром;
  • регрессия на Intel от 10% не отбрасывает вариант автоматически, а возвращает needs-decision;
  • QDQ использует калибровочный материал из других исходных записей; память, приватность и воспроизводимость проверяются явно.

Спецификация: docs/specs/2026-08-30-cpu-diarization-experiment.md в PR #40.

Отдельная исполнимая задача: #41.

Решение: следующий CPU-эксперимент идет ступенчатой воронкой, которая отсеивает явные проигрыши без полного декартова перебора и без дополнительных прогонов ради малой точности. - совпадающий baseline: sherpa-onnx 1.13.6, Pyannote FP32, WeSpeaker FP32, `window_shift_ratio=0.1`; - первичный отсев: по одному прогону трех фрагментов на Intel, отдельные ISA-чувствительные A/B на Ryzen; - комбинации: не больше трех на Intel и двух на Ryzen; - пять A/B-циклов получают только максимум два финалиста; - `go`: минимум 30% сокращения времени диаризации на Ryzen при выполнении условий качества; около 2x остается ориентиром; - регрессия на Intel от 10% не отбрасывает вариант автоматически, а возвращает `needs-decision`; - QDQ использует калибровочный материал из других исходных записей; память, приватность и воспроизводимость проверяются явно. Спецификация: `docs/specs/2026-08-30-cpu-diarization-experiment.md` в PR #40. Отдельная исполнимая задача: #41.
ddmitry commented 2026-08-31 01:01:11 +03:00
Author
Owner
Copy link
Copy source

Уточнение после проверки исполнимости на двух ноутбуках: полный эксперимент разделен на Intel-задачу #41 и зависимую Ryzen-задачу #42. #41 реализует стенд, выполняет этапы 0-4 и публикует проверяемый HANDOFF READY; пользователь переносит приватную ZIP-капсулу, сливает Intel-PR обычным merge и закрывает #41. После этого Gitea разблокирует #42, которая выполняет этапы 5-6 и завершает решение без штатного возврата на Intel. Спецификация обновлена в PR #40, commit 558c1ba.

Уточнение после проверки исполнимости на двух ноутбуках: полный эксперимент разделен на Intel-задачу #41 и зависимую Ryzen-задачу #42. #41 реализует стенд, выполняет этапы 0-4 и публикует проверяемый `HANDOFF READY`; пользователь переносит приватную ZIP-капсулу, сливает Intel-PR обычным merge и закрывает #41. После этого Gitea разблокирует #42, которая выполняет этапы 5-6 и завершает решение без штатного возврата на Intel. Спецификация обновлена в PR #40, commit `558c1ba`.
Sign in to join this conversation.
No Branch/Tag Specified
Labels
Clear labels
needs-info
Ожидает дополнительной информации от автора
 needs-triage
Требует оценки сопровождающим
 ready-for-agent
Полностью описана и готова для автономного агента
 ready-for-human
Требует реализации человеком
 wayfinder:grilling
Тикет карты: решение через разговор по одному вопросу (HITL)
 wayfinder:map
Карта wayfinder: индекс решений и точка входа
 wayfinder:prototype
Тикет карты: дешёвый черновик, чтобы было на что реагировать (HITL)
 wayfinder:research
Тикет карты: чтение источников, итог — markdown-сводка (AFK)
 wayfinder:task
Тикет карты: ручная работа, разблокирующая решение
 wontfix
Выполняться не будет
No labels wayfinder:grilling
Milestone
No items
No Milestone
Projects
Clear projects
No projects
Assignees
Clear assignees
ddmitry (Dmitry Dementiev)
No Assignees ddmitry
1 Participants
Notifications
Due Date
No due date set.
Depends on
#32 Определить способы ускорить embedding-инференс на разных x86 CPU
ddmitry/local-transcriber
#33 Выбрать способ оценки числа говорящих для быстрых эмбеддингов
ddmitry/local-transcriber
#35 Зафиксировать аппаратную матрицу и бюджет памяти
ddmitry/local-transcriber
#36 Найти поддерживаемый способ менять шаг окна sherpa-onnx
ddmitry/local-transcriber
Reference: ddmitry/local-transcriber#34