Zero-shot extrapolation

Определение

Экстраполяция позиционных эмбеддингов (например, RoPE) на более длинные контексты без дополнительного обучения, как в NTK-aware или YaRN.