Graph replay

Определение

Многократный запуск ранее захваченного и оптимизированного CUDA-графа с минимальными накладными расходами CPU, что даёт прирост производительности инференса.

Где встречается

• 845. Как работают CUDA graphs и когда их использовать

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление