Metrics

Определение

Количественные показатели производительности LLM-системы, такие как задержка, количество токенов и частота ошибок; собираются для observability.