NVIDIA GPU Operator

Определение

Оператор Kubernetes для автоматизации управления GPU-ресурсами в кластере. Упрощает развёртывание драйверов, инструментов мониторинга и планирование заданий на GPU.

Где встречается

• 74. Настроить auto-scaling для vLLM
• 192. Настроить autoscaling для LLM сервера
• 205. Настроить GPU scheduling для multi-tenant

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление