Horizontal scaling
Horizontal scaling
Определение
Добавление реплик сервиса (воркеров) для увеличения пропускной способности, часто через балансировщик.
Где встречается
- 216. Как вы делаете load testing для LLM endpoint Какие метрики ключевые
- Практика
- 800+ вопросов
- 20. Настроить sharding для petabyte embeddings
- 292. Реализовать distributed task queue для агентов