swizzle

Определение

Операция перестановки данных, поддерживаемая TMA (Tensor Memory Accelerator) в H100, для улучшения кэш-локальности и оптимизации доступа к памяти.

Где встречается

• 706. Что такое TMA (Tensor Memory Accelerator) в H100 и как он ускоряет FlashAttention-3
• 707. Как работает asynchronous execution на Hopper (copy engine vs compute)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление