English translation is not available yet. Showing Russian content.
token usage
token usage
Определение
Количество токенов во входе и выходе модели, влияющее на стоимость и задержку; используется как экономическая метрика и для контроля бюджета агентов.
Где встречается
- 47. Что такое ReAct Agent и как он работает
- 49. Как вы дебажите агента, который делает неправильные действия
- 136. Как вы AB тестируете две версии промпта в production
- 804. Как делать rollback промпта (auto-rollback при деградации метрик)
- 874. Как оценивать multi-step agents (не только final answer)
- Практика
- 75. Рассчитать ROI для fine-tuning
- 80. Реализовать cost attribution per feature
- 119. Измерить cost делегирования
- 134. Настроить token budget для агента
- 139. Настроить cost attribution per feature
- 163. Реализовать AB тестирование промптов
- 249. RAG с cost-aware routing