adaptive compute

Определение

Оптимизация времени инференса за счёт динамического распределения вычислительных ресурсов в зависимости от сложности запроса.