中文翻译暂不可用,显示俄语原文。

CUDA Execution Provider

CUDA Execution Provider

Определение

Бэкенд для ONNX Runtime, обеспечивающий выполнение моделей на NVIDIA GPU с использованием cuBLAS и Tensor Cores. Поддерживает FP16 и INT8, оптимизирован для инференса.

Где встречается

Навигация