SLO violation rate
SLO violation rate
Определение
Доля запросов, превышающих заданный порог задержки (latency) или другого SLO. Метрика для мониторинга стабильности инференса и качества обслуживания.
Где встречается
- 509. Как вы сравниваете две модели, если у них разная latency (быстрая неточная vs медленная точная)