adaptive compute

Определение

Оптимизация времени инференса за счёт динамического распределения вычислительных ресурсов в зависимости от сложности запроса.

Где встречается

• 68. Настроить inference-time scaling

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление