Build engine

Определение

Этап компиляции обученной модели в оптимизированный исполняемый файл (например, .plan для TensorRT) для конкретного устройства, что ускоряет инференс.

Где встречается

• 324. Что такое TVM (Apache TVM) и зачем он нужен для AI инференса
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление