RNN

Определение

Рекуррентная нейронная сеть, обрабатывающая последовательности шаг за шагом с поддержкой скрытого состояния; страдает от затухающих градиентов, но дешева в инференсе.

Где встречается

• 714. RWKV (RNN with Transformer attention) как комбинирует RNN и attention
• 800+ вопросов
• 59. Сравнить архитектуры на reasoning задачах

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление