order sensitivity
order sensitivity
Определение
Свойство модели трансформера с RoPE различать порядок токенов благодаря позиционным эмбеддингам, но не абсолютно.
Где встречается
- 668. Что такое индуктивные biases трансформеров (positional invariance, order sensitivity)
- 800+ вопросов