Материализация матрицы S

Определение

Явное создание и хранение матрицы S в памяти; FlashAttention избегает этого для экономии ресурсов.

Где встречается

• 667. Как работает FlashAttention математически (tiling, recomputation, не материализуя S)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление