English translation is not available yet. Showing Russian content.
CUDA Execution Provider
CUDA Execution Provider
Определение
Бэкенд для ONNX Runtime, обеспечивающий выполнение моделей на NVIDIA GPU с использованием cuBLAS и Tensor Cores. Поддерживает FP16 и INT8, оптимизирован для инференса.