torch.cuda.memory_summary
torch.cuda.memory_summary
Определение
Функция PyTorch, выводящая подробный текстовый отчёт о состоянии GPU-памяти: сегменты, свободные блоки, состояние кэша. Используется для анализа эффективности использования памяти.
Где встречается
- 452. Как вы управляете memory fragmentation при длительном раннинге LLM сервера
- 480. Как работает selective activation recomputation
- 846. Как дебажить memory fragmentation в LLM сервере