中文翻译暂不可用，显示俄语原文。
cache rollback
cache rollback
Определение
Операция отката состояния KV-кэша при отклонении токенов в speculative decoding. Используется для восстановления согласованности кэша после неудачной генерации.
中文翻译暂不可用，显示俄语原文。
Операция отката состояния KV-кэша при отклонении токенов в speculative decoding. Используется для восстановления согласованности кэша после неудачной генерации.