MIG Manager

Определение

Инструмент NVIDIA для автоматизации создания, удаления и управления MIG-инстансами на GPU.

Где встречается

• 708. Что такое MIG (Multi-Instance GPU) и как настроить для разных LLM
• 826. Как организовать GPU scheduling для multi-tenant LLM serving

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление