Multi-Latent Attention

Определение

Сжатие KV-кеша в латентное пространство, более эффективное, чем GQA.

Где встречается

• 277. Что такое multi-query attention (MQA) и grouped-query attention (GQA) и зачем они

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление