prompt tokens

Определение

Входные (prompt) и выходные (генерация) токены, составляющие основную стоимость вызова LLM.

Где встречается

• 55. Как вы измеряете стоимость (токены) агентской системы
• 148. Как вы измеряете стоимость агента в production (не только токены)
• 800+ вопросов
• 134. Настроить token budget для агента
• 163. Реализовать AB тестирование промптов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление