Knowledge Portal

aivaro.ru

  • Оглавление
  • Вопросы
  • Практика
  • Вики
  • Тесты
  • Поиск
✈Telegram @AetSeidhe
RUEN中文
…
Оглавление/Вики/async copy

async copy

async copy

Определение

Инструкция для асинхронной загрузки данных из HBM в shared memory без блокировки, применяемая в оптимизированных алгоритмах вроде FlashAttention.

Где встречается

  • 304. Что такое FlashAttention с точки зрения CUDA programming

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминarchitectureinference

Ссылки

  • Что такое FlashAttention с точки зрения CUDA programming?

Обратные ссылки (4)

  • Индекс терминов
  • Как работает FlashAttention-3 технически? Чем отличается от FA2?
  • Что такое FlashAttention с точки зрения CUDA programming?
  • Что такое TMA (Tensor Memory Accelerator) в H100 и как он ускоряет FlashAttention-3?