English translation is not available yet. Showing Russian content.
Token budgets
Token budgets
Определение
Ограничение на количество токенов, выделенных для различных компонентов (системный промпт, история, инструменты) при взаимодействии с LLM; используется для контроля затрат и длины контекста.
Где встречается
- 50. Как вы ограничиваете бесконечный цикл агента
- 188. Что такое «Schema-Activated In-Context Learning» (SA-ICL)
- 635. Как работает RAPTOR (иерархическое суммирование для длинного контекста)
- 738. Назовите 12+ слоёв эталонной архитектуры Harness.
- 743. Какие есть типичные failure modes в harness-engineering (over-decomposition, over-pruning)
- 768. Что такое «ротация агентов» (load balancing между агентами)
- 772. Что такое «аутсорсинг» задачи другому LLM (с другим API, другой ценой)
- 776. Как считать TCO (Total Cost of Ownership) для RAGAgent системы
- 779. Что такое «token budget» для агента и как его выставлять
- Практика
- 800+ вопросов
- 68. Настроить inference-time scaling
- 101. Реализовать Agent Loop с нуля
- 105. Настроить Memory (in-memory + vector)
- 134. Настроить token budget для агента