中文翻译暂不可用，显示俄语原文。
KV cache explosion
KV cache explosion
Определение
Проблема при работе с длинными контекстами, когда размер кэша внимания растёт квадратично от длины последовательности, вызывая нехватку памяти.
中文翻译暂不可用，显示俄语原文。
Проблема при работе с длинными контекстами, когда размер кэша внимания растёт квадратично от длины последовательности, вызывая нехватку памяти.