OpenVINO
OpenVINO
Определение
Оптимизатор инференса от Intel, предназначенный для выполнения моделей машинного обучения на оборудовании Intel (CPU, GPU, NPU). Поддерживает INT8-квантизацию и оптимизирован для высокой производительности на Intel-архитектурах.
Где встречается
- 320. Что такое ONNX Runtime и когда он выгоден для LLM
- 324. Что такое TVM (Apache TVM) и зачем он нужен для AI инференса