Blockwise Parallel Transformer

Определение

Архитектура трансформера, обрабатывающая длинные последовательности путём параллельного вычисления внимания по блокам для повышения эффективности.

Где встречается

• 703. Как работает L1L2 cache hierarchy в A100H100 и как ее использовать для LLM

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление