Warp group
Warp group
Определение
Новая концепция в H100, объединение нескольких warps (обычно 4 warps = 128 потоков) для инструкции WGMMA.
Где встречается
- 705. Как работает Tensor Core microarchitecture (WGMMA, MMA инструкции) в H100
- 844. Как работает FlashAttention-3 математически