cache_read_input_tokens

Определение

Метрика от Anthropic, показывающая количество токенов, прочитанных из кэша при запросе. Используется для отслеживания эффективности prompt caching.

Где встречается

• 219. Что такое prompt caching у провайдеров (Anthropic, Google) и как его использовать
• 218. Настроить prompt caching (Anthropic style)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление