From 9d41b893c3e1d2b8bc662c969f7507820c9d8b65 Mon Sep 17 00:00:00 2001 From: Dmitriy Dementiev Date: Tue, 24 Mar 2026 09:04:24 +0300 Subject: [PATCH] =?UTF-8?q?docs(readme):=20=D0=B4=D0=BE=D0=B1=D0=B0=D0=B2?= =?UTF-8?q?=D0=B8=D1=82=D1=8C=20int8=5Ffloat32=20=D0=B2=20=D1=82=D0=B0?= =?UTF-8?q?=D0=B1=D0=BB=D0=B8=D1=86=D1=83=20compute=5Ftype?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Бенчмарк показал: int8_float32 даёт 1.5x ускорение на CPU при сохранении качества float32. Добавлен как рекомендуемый вариант для CPU. Co-Authored-By: Claude Opus 4.6 (1M context) --- README.md | 1 + 1 file changed, 1 insertion(+) diff --git a/README.md b/README.md index 13f820c..cff9cfd 100644 --- a/README.md +++ b/README.md @@ -243,6 +243,7 @@ language = "en" |-----|--------|----------|----------|--------------------| | `float16` | CUDA | ~4.5-5 GB | Отлично | **По умолчанию для CUDA** | | `int8_float16` | CUDA | ~4.7 GB | Отлично | GPU от 6 GB, альтернатива float16 | +| `int8_float32` | CPU | Среднее | Отлично | **Рекомендуется для CPU** — 1.5x быстрее float32 при том же качестве | | `int8` | CUDA / OpenVINO | Низкое | Хорошо, но бывают галлюцинации | **По умолчанию для OpenVINO** | | `fp16` | OpenVINO | Низкое | Отлично | OpenVINO large-v3 (выбирается автоматически) | | `float32` | CPU | Среднее | Отлично | **По умолчанию для CPU** |