Sinusoidal encoding

Определение

Метод позиционного кодирования, использующий синусоидальные функции для представления абсолютных позиций токенов без обучения.