SLO
SLO
Определение
Целевой показатель качества обслуживания, например, по задержке (latency) или полноте (recall). Используется для формализации требований к LLM-сервису и оценки его соответствия ожиданиям.
Где встречается
- 106. Как вы валидируете, что DSPy-оптимизация действительно улучшила модель, а не просто переобучилась под метрику
- 244. Как вы проектируете backpressure в LLM serving системе
- 381. Как вы определяете SLO и SLA для LLM сервиса
- 382. Как вы проектируете canary deployment для LLM модели
- 383. Что такое error budget для AI качества и как его считать
- 504. Как вы оцениваете cost-effectiveness LLM-пайплайна
- 532. Что такое data contract между сервисами в RAG пайплайне
- 756. Как выглядит process operational excellence в Harness Engineering (ORR, Operational Reviews)
- 767. Как проектировать SLA между агентом-менеджером и агентами-исполнителями
- 777. Что такое «cost per good answer» и как его измерять
- 861. Как проектировать data contracts для RAG пайплайна
- Практика
- 800+ вопросов
- 26. Реализовать SLO для faithfulness
- 27. Настроить tail latency amplification мониторинг
- 254. Реализовать SLO для RAG