中文翻译暂不可用,显示俄语原文。

Learned positional embeddings

Learned positional embeddings

Определение

Обучаемая матрица, которая добавляется к эмбеддингам токенов для кодирования их позиции в последовательности; используется в архитектурах GPT-2 и BERT.

Где встречается

Навигация