рандомизация
рандомизация
Определение
Метод распределения запросов, обеспечивающий стабильное назначение (например, через консистентное хеширование) или случайное распределение для A/B-тестов и балансировки нагрузки.
Где встречается
- 76. Как вы делаете AB тестирование двух моделей в production
- 247. Как вы проектируете multi-region active-active для LLM API
- 403. Как вы проектируете RAG для 10k RPS с P99 latency 200ms Архитектура.
- 768. Что такое «ротация агентов» (load balancing между агентами)
- 821. Как избежать hot shard в Qdrant (или другой векторной БД)
- 827. Какие есть стратегии распределённого кэширования для LLM (Redis Cluster, Memcached, Hazelcast)
- Практика
- 800+ вопросов
- 20. Настроить sharding для petabyte embeddings
- 37. Реализовать sharded cache на 10+ нод
- 40. Настроить hot shard detection