Exact attention

Определение

Механизм внимания без приближений, в отличие от sparse или linear attention; FlashAttention реализует exact attention с линейной памятью.

Где встречается

• 474. Как работает FlashAttention для training (не только inference)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление