cached response
cached response
Определение
Ответ, возвращаемый из кэша при совпадении запроса (cache hit) или его отсутствие (cache miss). Применяется для ускорения обработки и снижения затрат.
Где встречается
- 800+ вопросов
- 161. Развернуть Prompt Registry
- 225. Semantic cache для RAG
- 259. Реализовать Bloom filter для retrieval