token-level confidence estimation

Определение

Метод оценки вероятности того, что каждый сгенерированный токен корректен. Применяется в verifier-guided decoding для повышения качества генерации.