RuBART
RuBART
Определение
RuBART — это русскоязычная версия модели BART (Bidirectional and Auto-Regressive Transformer), предобученная на больших корпусах русского текста. Она объединяет двунаправленный кодировщик (как в BERT) и авторегрессионный декодировщик (как в GPT), что делает её эффективной для задач генерации текста, включая абстрактивную суммаризацию. Модель может быть дообучена на специфических датасетах, например, для создания кратких рефератов новостей.