中文翻译暂不可用,显示俄语原文。

Attention pruning

Attention pruning

Определение

Техника удаления неважных токенов из механизма внимания или KV cache для снижения вычислительной нагрузки и потребления памяти, особенно в длинных контекстах.

Где встречается

Навигация