predicated instructions

Определение

Инструкции GPU (например, SELP), которые вычисляют оба результата и выбирают нужный по предикату без явного ветвления. Используются для минимизации warp divergence в LLM kernels.

Где встречается

• 302. Что такое warp divergence в CUDA и как он влияет на attention
• 711. Как работает speculative execution на GPU для LLM (branch prediction)
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление