中文翻译暂不可用，显示俄语原文。
KV cache management
KV cache management
Определение
Управление кэшем ключ-значение для поддержки нелинейных обновлений (например, при спекулятивном декодировании или откате rejected токенов), требующее корректного ветвления и очистки.