Physical isolation

Определение

Выделение целых физических GPU разным tenant'ам для полной изоляции без interference, применяемое в multi-tenant LLM serving.

Где встречается

• 826. Как организовать GPU scheduling для multi-tenant LLM serving
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление