docs(cuda): описаны установка extra и проверка Windows DLL
This commit is contained in:
1 parent
99ed5ed92f
commit
453b5d9dfa
7 files changed
+241
-133
No files matched your search
@@ -1,6 +1,8 @@
|
||||
# Владение выполнением транскрипции
|
||||
|
||||
**Статус:** согласовано для постановки задач. Реализация не начата.
|
||||
**Статус:** согласовано. Правила выбора исполнения и optional CUDA реализованы
|
||||
в #2; рефакторинг владения выполнением не начат. Windows GPU-прогон без Toolkit
|
||||
остаётся невыполненным (см. ADR-001).
|
||||
|
||||
## Зачем
|
||||
|
||||
@@ -14,11 +16,11 @@
|
||||
отдельно. Это увеличивает interface: caller должен знать порядок вызовов
|
||||
и поддерживать согласованность значений.
|
||||
|
||||
`device` одновременно обозначает движок и аппаратное исполнение. Значение
|
||||
`onnx` выбирает adapter, но не закрепляет CPU: установленный `onnx-asr 0.12.0`
|
||||
по умолчанию использует доступные execution providers. При этом CLI безусловно
|
||||
пишет `ONNX (CPU)`. Параметр `cpu_threads` принимается ONNX adapter, но не
|
||||
используется при загрузке ASR и VAD.
|
||||
`device` одновременно обозначает движок и аппаратное исполнение. До #2 значение
|
||||
`onnx` выбирало adapter, но не закрепляло CPU: `onnx-asr` по умолчанию использует
|
||||
доступные execution providers, хотя CLI писал `ONNX (CPU)`. В #2 для ASR и VAD
|
||||
закреплён CPU provider. Параметр `cpu_threads` всё ещё принимается ONNX adapter,
|
||||
но не используется при загрузке ASR и VAD.
|
||||
|
||||
## Согласованные ограничения
|
||||
|
||||
@@ -72,7 +74,9 @@ model/backend/path/device. Locality — изменения загрузки и
|
||||
## Выбор исполнения и ошибки
|
||||
|
||||
Ручное включение CUDA состоит из двух явных действий: установки зависимостей
|
||||
и выбора CUDA через CLI либо TOML. CUDA не участвует
|
||||
и выбора CUDA через CLI либо TOML. Extra `cuda` поддерживает Linux/WSL x86_64
|
||||
и Windows x64 без обязательного системного Toolkit; совместимый драйвер
|
||||
устанавливается отдельно. CUDA не участвует
|
||||
в `auto`, даже если найден `nvidia-smi` или установлены её библиотеки.
|
||||
Так установка драйвера не меняет движок и модель по умолчанию.
|
||||
|
||||
@@ -121,7 +125,8 @@ Mock-тесты не подтверждают ускорение или совм
|
||||
## Документация и прежние решения
|
||||
|
||||
README должен различать обычную установку и подключение CUDA: дополнительные
|
||||
зависимости Linux/WSL, требования Windows, явный запуск, настройку TOML
|
||||
зависимости через один extra на Linux/WSL x86_64 и Windows x64, внешние
|
||||
требования драйвера и Visual C++ Runtime, явный запуск, настройку TOML
|
||||
и диагностику отсутствующих библиотек или несовместимого железа. Команды
|
||||
установки из клона и через `uv tool` проверяются при реализации. CUDA extra
|
||||
оформляется отдельным изменением, чтобы поставку можно было проверить
|
||||
|
||||
Reference in new issue
Block a user