Wave Decoding
Wave Decoding
Определение
Неавторегрессивный метод генерации текста, генерирующий несколько токенов параллельно в разных ветках и выбирающий лучшую последовательность на основе скоринга. Ускоряет вывод за счёт trade-off между качеством и скоростью.
Где встречается
- 215. Что такое Wave Decoding и чем отличается от стандартного авторегрессивного
- 450. Что такое Wave Decoding и чем отличается от стандартного авторегрессивного
- Практика
- 800+ вопросов
- 220. Настроить wave decoding для коротких ответов