JIT-компиляция
JIT-компиляция
Определение
Компиляция модели во время выполнения, используемая в XLA, TorchScript и других фреймворках для ускорения инференса.
Где встречается
- 322. Что такое operator fusion в компиляторах и какие паттерны fusion существуют
- 324. Что такое TVM (Apache TVM) и зачем он нужен для AI инференса