tiktoken
tiktoken
Определение
Библиотека токенизации от OpenAI, предназначенная для точного подсчёта количества токенов в тексте; используется для расчёта стоимости запросов и контроля лимитов в приложениях с LLM.
Где встречается
- 93. Как вы дебажите проблему LLM не следовала системному промпту
- 109. Как вы бенчмарките DSPy против ручного промпт-инжиниринга в production
- 148. Как вы измеряете стоимость агента в production (не только токены)
- 257. Как вы дедуплицируете документы перед индексацией в RAG
- 779. Что такое «token budget» для агента и как его выставлять
- 783. Как сравнивать cost efficiency разных LLM провайдеров
- 805. Что такое «prompt linting» (статический анализ промптов)
- 68. Настроить inference-time scaling
- 71. Рассчитать cost per 1M tokens для разных моделей
- 80. Реализовать cost attribution per feature
- 109. Настроить cost tracking для агента
- 119. Измерить cost делегирования
- 130. Написать postmortem для неудачного делегирования
- 134. Настроить token budget для агента
- 135. Рассчитать ROI от fine-tuning
- 142. Реализовать cost-aware caching
- 163. Реализовать AB тестирование промптов
- 165. Реализовать prompt linting
- 174. Настроить prompt caching
- 237. Агент с cost tracking