resampling
resampling
Определение
В speculative decoding: процедура корректировки распределения после rejection-шага, когда производится семплинг из целевого распределения (target distribution) для замены отклонённых токенов.
В speculative decoding: процедура корректировки распределения после rejection-шага, когда производится семплинг из целевого распределения (target distribution) для замены отклонённых токенов.