warp divergence

Определение

Ситуация, когда потоки внутри warp выполняют разные ветви кода, что приводит к сериализации и снижению производительности GPU.

Где встречается

• 302. Что такое warp divergence в CUDA и как он влияет на attention
• 705. Как работает Tensor Core microarchitecture (WGMMA, MMA инструкции) в H100
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление