Latency p50/p95

Определение

Метрики времени ответа, влияющие на пользовательский опыт и косвенные затраты; p95 — 95-й перцентиль задержки.

Где встречается

• 139. Как вы оцениваете cost-effectiveness LLM-пайплайна

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление