OpenVINO

Определение

Оптимизатор инференса от Intel, предназначенный для выполнения моделей машинного обучения на оборудовании Intel (CPU, GPU, NPU). Поддерживает INT8-квантизацию и оптимизирован для высокой производительности на Intel-архитектурах.

Где встречается

• 320. Что такое ONNX Runtime и когда он выгоден для LLM
• 324. Что такое TVM (Apache TVM) и зачем он нужен для AI инференса

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление