torch.cuda.memory_summary

Определение

Функция PyTorch, выводящая подробный текстовый отчёт о состоянии GPU-памяти: сегменты, свободные блоки, состояние кэша. Используется для анализа эффективности использования памяти.

Где встречается

• 452. Как вы управляете memory fragmentation при длительном раннинге LLM сервера
• 480. Как работает selective activation recomputation
• 846. Как дебажить memory fragmentation в LLM сервере

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление