LRU-кэш
LRU-кэш
Определение
Стратегия кэширования, при которой при превышении лимита удаляются наименее недавно использованные элементы. Применяется для кэширования векторов и LLM-вызовов.
Где встречается
- 232. Что такое Memory-optimized ANN и какие алгоритмы лучшие для ограниченной RAM (16GB)
- 583. Как вы делаете agent с bounded rationality (ограниченные вычислительные ресурсы)
- 218. Настроить prompt caching (Anthropic style)