gated residual connections

Определение

Вариант residual connections с дополнительным вентилем, контролирующим поток информации через слой; используется в некоторых архитектурах трансформеров.

Где встречается

• 672. Что такое residual connections и зачем они нужны в трансформере

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление