中文翻译暂不可用，显示俄语原文。
Tree Attention
Tree Attention
Определение
Механизм в speculative decoding, позволяющий target-модели параллельно обрабатывать несколько ветвей кандидатных последовательностей с модифицированной маскировкой для увеличения acceptance rate.
Где встречается
- 158. Что такое EAGLE-3 и чем он отличается от стандартного speculative decoding
- 164. Какие trade-offs между разными архитектурами speculative decoding
- 212. Как работает speculative decoding с несколькими draft моделями
- 456. Что такое Medusa (multiple heads) для speculative decoding