swap-space

Определение

Область CPU-памяти, выделяемая для хранения вытесненных KV-кэшей при динамическом управлении памятью инференса.