Encoder-decoder
Encoder-decoder
Определение
Encoder-decoder — это архитектура нейронных сетей, состоящая из двух основных компонентов: кодировщика (encoder), который преобразует входную последовательность в скрытое представление, и декодировщика (decoder), который на основе этого представления генерирует выходную последовательность. Такая архитектура широко применяется в задачах sequence-to-sequence, например, в машинном переводе или суммаризации текста. T5 — это пример модели с полной encoder-decoder-архитектурой, где оба компонента построены на основе Transformer.