English translation is not available yet. Showing Russian content.
gated residual connections
gated residual connections
Определение
Вариант residual connections с дополнительным вентилем, контролирующим поток информации через слой; используется в некоторых архитектурах трансформеров.