cache_creation_input_tokens

Определение

Поле в ответе API, фиксирующее количество токенов, затраченных на создание новой записи в кэше. Используется для мониторинга и оптимизации использования кэша.

Где встречается

• 218. Настроить prompt caching (Anthropic style)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление