memory stalls
memory stalls
Определение
Периоды, когда GPU простаивает в ожидании данных из памяти; признак — высокая Memory Throughput при низкой compute, часто снижает occupancy.
Где встречается
- 310. Как вы читаете профиль Nsight Systems для поиска bottlenecks в vLLM
- 800+ вопросов
- 92. Профилировать GPU utilization падение