Intel Neural Compressor

Определение

Intel Neural Compressor — это инструмент с открытым исходным кодом от Intel для сжатия и оптимизации моделей машинного обучения. Он поддерживает различные техники, включая квантование, прунинг и дистилляцию, позволяя уменьшить размер модели и ускорить её инференс на оборудовании Intel.

Где встречается

• 972. Что такое Quantization-Aware Training (QAT)? Чем отличается от Post-Training Quantization (PTQ)?

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление