error_rate_429

Определение

Метрика доли запросов, отклонённых из-за превышения лимита (HTTP 429). Порог для алерта — более 5%.

Где встречается

• 411. Как вы проектируете backpressure в LLM serving системе

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление