Knowledge Portal

aivaro.ru

  • Оглавление
  • Вопросы
  • Практика
  • Вики
  • Тесты
  • Поиск
✈Telegram @AetSeidhe
RUEN中文
…
Оглавление/Вики/cudaMalloc

cudaMalloc

cudaMalloc

Определение

Системный вызов CUDA для выделения памяти на GPU. Частые вызовы из-за фрагментации увеличивают latency инференса.

Где встречается

  • 846. Как дебажить memory fragmentation в LLM сервере

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминarchitecture

Ссылки

  • Как дебажить memory fragmentation в LLM сервере?

Обратные ссылки (4)

  • Индекс терминов
  • Как вы управляете memory fragmentation при длительном раннинге LLM сервера?
  • Как дебажить memory fragmentation в LLM сервере?
  • Как работают CUDA graphs и когда их использовать?