cost/latency/quality trade-off

Определение

Трёхмерное пространство компромиссов между стоимостью, задержкой и качеством, которое необходимо мониторить при оптимизации LLM-систем.

Где встречается

• 165. Как тест-тайм компьютинг меняет MLOps
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление