Multiple Heads

Определение

Несколько выходных голов (heads) нейронной сети, добавляемых к целевой модели для параллельной генерации токенов. Используется в методах speculative decoding, таких как Medusa-2.

Где встречается

• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление