English translation is not available yet. Showing Russian content.
candidate tree
candidate tree
Определение
Дерево кандидатов — это динамическая структура, объединяющая несколько возможных последовательностей токенов от черновых (draft) моделей для параллельной верификации в speculative decoding.