Dense connections

Определение

Плотные соединения (dense connections) — архитектурный паттерн, где каждый слой получает на вход конкатенацию выходов всех предыдущих слоёв. Это улучшает поток градиентов и повторное использование признаков; пример — DenseNet.

Где встречается

• 299. Как работает attention между слоями (cross-layer attention) в современных архитектурах
• 672. Что такое residual connections и зачем они нужны в трансформере

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление