From 104b0f695c91473596b27c16b0004eb21562cde6 Mon Sep 17 00:00:00 2001 From: Dmitriy Dementiev Date: Tue, 24 Mar 2026 09:05:15 +0300 Subject: [PATCH] =?UTF-8?q?docs:=20=D1=80=D0=B5=D0=B7=D1=83=D0=BB=D1=8C?= =?UTF-8?q?=D1=82=D0=B0=D1=82=D1=8B=20=D0=BE=D0=BF=D1=82=D0=B8=D0=BC=D0=B8?= =?UTF-8?q?=D0=B7=D0=B0=D1=86=D0=B8=D0=B8=20=D0=BF=D0=BE=D1=82=D0=BE=D0=BA?= =?UTF-8?q?=D0=BE=D0=B2=20CT2=20int8=5Ffloat32?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 8 потоков (физические ядра) — оптимум: 458с vs 599с (дефолт 4 потока). 16 потоков (SMT) хуже: 498с. CT2 int8_float32 с 8 потоками почти догоняет whisper.cpp Vulkan (458с vs 432с) без доп. зависимостей. Co-Authored-By: Claude Opus 4.6 (1M context) --- docs/research-amd-acceleration.md | 12 +++++++++++- 1 file changed, 11 insertions(+), 1 deletion(-) diff --git a/docs/research-amd-acceleration.md b/docs/research-amd-acceleration.md index 35cf679..21a1b45 100644 --- a/docs/research-amd-acceleration.md +++ b/docs/research-amd-acceleration.md @@ -291,9 +291,19 @@ ggml_vulkan: 0 = AMD Radeon(TM) 780M (AMD proprietary driver) | uma: 1 | fp16: 1 |---|---|---| | OpenVINO fp16 (medium) | ~240 | 3.7x | | **whisper.cpp Vulkan + Radeon 780M** | **~432** | **2.0x** | -| CT2 int8_float32 (medium) | ~599 | 1.5x | +| **CT2 int8_float32, 8 threads** | **~458** | **1.9x** | +| CT2 int8_float32, 16 threads | ~498 | 1.8x | +| CT2 int8_float32, default (4 threads) | ~599 | 1.5x | | CT2 float32 / whisper.cpp CPU | ~881-886 | 1.0x | +**Оптимизация потоков**: CTranslate2 по умолчанию использует 4 потока (`cpu_threads=0`). +На Ryzen 7 8845H (8 ядер / 16 потоков) оптимум — **8 потоков** (по числу физических ядер). +16 потоков (SMT/hyperthreading) не помогают — контекст-свитчинг нивелирует выигрыш. +Управление: `OMP_NUM_THREADS=8` или параметр `cpu_threads` в WhisperModel. + +CT2 int8_float32 с 8 потоками (**458с**) почти догоняет whisper.cpp Vulkan (**432с**) +без дополнительных зависимостей. + ### Качество (Vulkan, -mc 0) #### Техтермины