RED metrics

Определение

Метрики для мониторинга production-сервисов на LLM: Rate (частота запросов), Errors (количество ошибок), Duration (задержка). Позволяют оценить производительность и здоровье каждого эндпоинта.

Где встречается

• Практика
• 24. Настроить RED metrics для LLM

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление