Quality degradation
Quality degradation
Определение
Падение метрик качества (например, точности, faithfulness, answer relevance) по сравнению с использованием эталонной модели, часто является критерием для отката или алертов.
Где встречается
- 778. Как проектировать cost-aware routing (дешёвая модель для простых запросов, дорогая — для сложных)
- 26. Реализовать SLO для faithfulness
- 220. Настроить wave decoding для коротких ответов