SLO violation rate

Определение

Доля запросов, превышающих заданный порог задержки (latency) или другого SLO. Метрика для мониторинга стабильности инференса и качества обслуживания.

Где встречается

• 509. Как вы сравниваете две модели, если у них разная latency (быстрая неточная vs медленная точная)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление