cudaMalloc

Определение

Системный вызов CUDA для выделения памяти на GPU. Частые вызовы из-за фрагментации увеличивают latency инференса.

Где встречается

• 846. Как дебажить memory fragmentation в LLM сервере

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление