calibration dataset
calibration dataset
Определение
Небольшой набор данных (обычно 128–1024 примера), используемый для подбора параметров квантизации (GPTQ, AWQ) с целью минимизации ошибки.
Где встречается
- 443. GGUF vs GPTQ vs AWQ сравнение форматов квантизации для инференса.
- 847. Как сравнивать quantization методы (GPTQ, AWQ, GGUF, bitsandbytes)
- 800+ вопросов
- 209. Настроить AWQ quantization для LLM
- 210. Сравнить GPTQ vs AWQ на reasoning задачах
- 214. Реализовать FP8 инференс на H100