TMA

Определение

Аппаратный ускоритель на GPU Hopper для асинхронного копирования данных между глобальной и разделяемой памятью, снижающий задержки при выполнении операций внимания в FlashAttention-3.

Где встречается

• 432. Как работает FlashAttention-3 технически Чем отличается от FA2
• 844. Как работает FlashAttention-3 математически
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление