IREE

Определение

Компилятор и среда выполнения для ML-моделей на базе MLIR, поддерживающий различные бэкенды (CPU, GPU, NPU, FPGA) и оптимизации, такие как operator fusion.

Где встречается

• 317. Что такое MLIR и как он используется в IREETensorRT-LLM
• 322. Что такое operator fusion в компиляторах и какие паттерны fusion существуют
• 325. Как вы сравниваете разные компиляторы (TensorRT, IREE, XLA) для вашей модели
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление