Metrics

Определение

Количественные показатели производительности LLM-системы, такие как задержка, количество токенов и частота ошибок; собираются для observability.

Где встречается

• 413. Что такое sidecar pattern для LLM observability и как его реализовать
• Практика
• 246. Агент с наблюдаемостью (OpenTelemetry)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление