Complex plane rotation

Определение

Метод позиционного кодирования, использующий вращение embedding-векторов в комплексной плоскости для внесения информации о позиции токенов (RoPE).

Где встречается

• 630. Как работает RoPE (Rotary Position Embeddings) для экстраполяции на длинные контексты

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление