Thundering Herd
Thundering Herd
Определение
Проблема, когда множество клиентов одновременно повторяют запросы после сбоя или истечения кэша, создавая пиковую нагрузку; предотвращается добавлением случайной задержки (jitter) или другими механизмами.
Где встречается
- 384. Как вы проводим chaos engineering для RAG системы
- 815. Что такое «dead letter queue» для сообщений агентов
- 832. Как проектировать graceful degradation при отказе LLM API
- Практика
- 800+ вопросов
- 35. Реализовать cache stampede защиту
- 99. Написать postmortem для cache stampede
- 203. Реализовать retry storm mitigation
- 257. Реализовать cache invalidation