English translation is not available yet. Showing Russian content.
cost-aware routing
cost-aware routing
Определение
Архитектурный паттерн, при котором система направляет запрос к модели с оптимальным соотношением цена-качество, часто используя лёгкий классификатор сложности.
Где встречается
- 775. Что такое Cost Engineering для LLM-систем
- 776. Как считать TCO (Total Cost of Ownership) для RAGAgent системы
- 778. Как проектировать cost-aware routing (дешёвая модель для простых запросов, дорогая — для сложных)
- Практика
- 800+ вопросов
- 77. Реализовать cost-aware routing
- 80. Реализовать cost attribution per feature
- 119. Измерить cost делегирования
- 133. Реализовать cost-aware routing
- 249. RAG с cost-aware routing