中文翻译暂不可用,显示俄语原文。

NoPE

NoPE

Определение

Подход к позиционному кодированию в трансформерах, при котором явное кодирование позиций не добавляется. Показано, что causal masking позволяет модели выучить относительные позиции.

Где встречается

Навигация