Shape specialization

Определение

Оптимизация компиляции LLM-моделей, при которой фиксируются размеры тензоров на этапе компиляции. Это позволяет генерировать более эффективный код за счёт заранее известной формы входных данных.

Где встречается

• 321. Как работает graph optimization в LLM компиляторах (constant folding, dead code elimination)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление