Contextual embeddings

Определение

Контекстуальные эмбеддинги — это векторные представления слов, которые зависят от контекста их употребления. В отличие от статичных эмбеддингов (например, Word2Vec), одно и то же слово получает разные векторы в разных предложениях. Такие эмбеддинги генерируются моделями типа BERT, которые учитывают окружение слова для более точной передачи смысла.

Где встречается

• 911. Что такое Word2Vec (CBOW и Skip-gram) и fastText? Чем отличаются от контекстуальных эмбеддингов типа BERT?

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление