Multi-Instance GPU

Определение

Технология разделения GPU A100/H100 на изолированные инстансы для запуска разных LLM.

Где встречается

• Практика
• 800+ вопросов
• 205. Настроить GPU scheduling для multi-tenant

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление