Lazy invalidation
Lazy invalidation
Определение
Стратегия инвалидации кэша, при которой проверка актуальности происходит при каждом запросе (например, сравнение префиксов). Снижает фоновую нагрузку, но добавляет накладные расходы на чтение.
Где встречается
- 206. Что такое KV cache reuse в multi-turn диалогах и как его реализовать
- 245. Как вы делаете cache invalidation для semantic cache при обновлении знаний