Knowledge Portal

aivaro.ru

  • Contents
  • Questions
  • Practice
  • Wiki
  • Tests
  • Search
✈Telegram @AetSeidhe
RUEN中文
…
Contents/Wiki/Multi-Instance GPU

English translation is not available yet. Showing Russian content.

Multi-Instance GPU

Multi-Instance GPU

Определение

Технология разделения GPU A100/H100 на изолированные инстансы для запуска разных LLM.

Где встречается

  • Практика
  • 800+ вопросов
  • 205. Настроить GPU scheduling для multi-tenant

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминarchitectureinference

Ссылки

  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить GPU scheduling для multi-tenant

Обратные ссылки (5)

  • Индекс терминов
  • Как организовать GPU scheduling для multi-tenant LLM serving?
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить GPU scheduling для multi-tenant
  • Что такое MIG (Multi-Instance GPU) и как настроить для разных LLM?
  • Что такое MIG (Multi-Instance GPU) и когда он полезен для LLM?