EAGLE-3

Определение

Третья версия feature-aware speculative decoding, которая использует скрытые представления target модели и top-K KL divergence loss, достигая acceptance rate 78–82%.

Где встречается

• 158. Что такое EAGLE-3 и чем он отличается от стандартного speculative decoding
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление