torch.cuda.memory_snapshot

Определение

Метод PyTorch, возвращающий снимок всех текущих выделенных блоков CUDA-памяти в виде списка словарей. Позволяет детально проанализировать фрагментацию памяти.

Где встречается

• 452. Как вы управляете memory fragmentation при длительном раннинге LLM сервера

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление