completion tokens

Определение

Токены, генерируемые моделью в ответ на входной запрос. Составляют часть стоимости инференса, обычно дороже входных токенов.

Где встречается

• 55. Как вы измеряете стоимость (токены) агентской системы
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление