Custom layers

Определение

Пользовательские слои модели, требующие специальных плагинов при развертывании в TensorRT-LLM.

Где встречается

• 318. TensorRT-LLM vs vLLM — сравнение для production deployment.

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление