XLM-RoBERTa
XLM-RoBERTa
Определение
XLM-RoBERTa (XLM-R) — масштабированная многоязычная версия модели RoBERTa, обученная на 100 языках с использованием задачи Masked Language Modeling (MLM). Модель демонстрирует высокую производительность в кросс-языковых задачах, таких как классификация текста и извлечение информации, без необходимости параллельных данных. XLM-R является одной из ключевых архитектур для многоязычного NLP.