kernel

Определение

Программный компонент, выполняемый на GPU множеством потоков. LLM-инференс использует kernels для операций attention, matmul и других; оптимизация включает fusion и auto-tuning под конкретное железо.

Где встречается

• 800+ вопросов
• 53. Реализовать selective scan (Mamba)
• 92. Профилировать GPU utilization падение

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление