quantized target

Определение

Целевая модель, веса которой приведены к низкой разрядности (например, INT4). В speculative decoding такая модель может выступать в роли draft-модели для ускорения генерации.

Где встречается

• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление