Knowledge Portal

aivaro.ru

  • Оглавление
  • Вопросы
  • Практика
  • Вики
  • Тесты
  • Поиск
✈Telegram @AetSeidhe
RUEN中文
…
Оглавление/Вики/OOV

OOV

OOV

Определение

Проблема незнакомых слов в word-level токенизации, решается использованием subword-токенизаторов (BPE, Unigram, SentencePiece).

Где встречается

  • 284. Как работают современные tokenizers (BPE, Unigram, SentencePiece) и их ограничения

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминdata

Ссылки

  • Как работают современные tokenizers (BPE, Unigram, SentencePiece) и их ограничения?

Обратные ссылки (2)

  • Индекс терминов
  • Как работают современные tokenizers (BPE, Unigram, SentencePiece) и их ограничения?