damp_percent

Определение

Параметр регуляризации в методе квантования AWQ, влияющий на точность сжатия модели. Регулирует компромисс между размером и качеством.

Где встречается

• 209. Настроить AWQ quantization для LLM

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление