Arithmetic intensity

Определение

Отношение числа вычислительных операций к объёму передаваемых данных; важна для оптимизации производительности GPU.

Где встречается

• 432. Как работает FlashAttention-3 технически Чем отличается от FA2
• 437. Почему decode stage плохо batchится

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление