compute budget

Определение

Лимит вычислительных ресурсов, выделяемых на один запрос при инференсе, особенно в контексте test-time computing; позволяет контролировать затраты и время ответа.

Где встречается

• 165. Как тест-тайм компьютинг меняет MLOps
• Практика
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление