PyTorch Profiler
PyTorch Profiler
Определение
Инструмент для профилирования PyTorch, позволяющий измерять время выполнения операций, количество FLOPs и загрузку GPU. Используется для анализа эффективности моделей.
Где встречается
- 300. Как вы сравниваете две LLM архитектуры не по accuracy, а по efficiency
- 307. Как PCIe bottleneck проявляется в multi-GPU инференсе