Hydra

Определение

Метод speculative decoding с несколькими draft-моделями и деревом кандидатов. Обеспечивает максимальную частоту принятия токенов.

Где встречается

• 441. EAGLE-3 vs Medusa-2 vs Hydra сравнение speculative decoding методов.
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление