Zero-shot extrapolation

Определение

Экстраполяция позиционных эмбеддингов (например, RoPE) на более длинные контексты без дополнительного обучения, как в NTK-aware или YaRN.

Где встречается

• 630. Как работает RoPE (Rotary Position Embeddings) для экстраполяции на длинные контексты

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление