HuggingFace Optimum

Определение

Библиотека для оптимизации и экспорта моделей Hugging Face в ONNX и другие форматы для ускорения инференса.

Где встречается

• 320. Что такое ONNX Runtime и когда он выгоден для LLM

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление