Token-level uncertainty

Token-level uncertainty

Определение

Token-level uncertainty (потоковая неопределённость) — это метрика неуверенности модели в предсказании каждого отдельного токена последовательности. В контексте NER (распознавания именованных сущностей) она отражает, насколько модель сомневается в границе сущности или её типе, например, когда BERT-based NER возвращает низкие вероятности для токенов на границах сущности. Эта неопределённость может использоваться для выбора наиболее информативных примеров в активном обучении.

Где встречается

Навигация