English translation is not available yet. Showing Russian content.
LRU
LRU
Определение
Алгоритм вытеснения кэша, при котором удаляются наименее недавно использованные элементы; применяется в prefix caching и session management для эффективного управления памятью.
Где встречается
- 81. Как бы вы спроектировали систему для 1000 одновременных пользователей чат-бота с RAG
- 91. Что такое Semantic Caching и как вы его реализуете
- 442. Что такое prefix caching и когда он эффективен
- 738. Назовите 12+ слоёв эталонной архитектуры Harness.
- 749. Что такое Session Management в Harness и какие стратегии (TTL, LRU, GC)
- 827. Какие есть стратегии распределённого кэширования для LLM (Redis Cluster, Memcached, Hazelcast)
- 831. Как проектировать graceful degradation при отказе vector DB
- 842. Как работает prefix caching и prompt caching у провайдеров
- 853. Как организовать feature store для AI (Feast, Hopsworks)
- Практика
- 800+ вопросов
- 35. Реализовать cache stampede защиту
- 142. Реализовать cost-aware caching
- 174. Настроить prompt caching
- 225. Semantic cache для RAG
- 296. RAG с векторной БД на CPU (ChromaQdrant)