Cluster autoscaler

Определение

Компонент Kubernetes, автоматически масштабирующий количество узлов в кластере для динамического управления spot pool и обеспечения ресурсов под реплики LLM-сервера.

Где встречается

• 251. Как вы деплоите LLM на spot instances в облаке
• 192. Настроить autoscaling для LLM сервера

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление