English translation is not available yet. Showing Russian content.
Graph caching
Graph caching
Определение
Предварительная запись CUDA-графов для различных длин последовательностей с возможностью быстрого переключения между ними, что ускоряет выполнение за счёт минимизации накладных расходов CPU.