中文翻译暂不可用,显示俄语原文。
Страничная организация памяти
Страничная организация памяти
Определение
Концепция из ОС, заимствованная в Paged Attention: KV-кэш разбивается на блоки фиксированного размера (страницы) для эффективного управления памятью и избежания фрагментации.