Token-level uncertainty
Token-level uncertainty
Определение
Token-level uncertainty (потоковая неопределённость) — это метрика неуверенности модели в предсказании каждого отдельного токена последовательности. В контексте NER (распознавания именованных сущностей) она отражает, насколько модель сомневается в границе сущности или её типе, например, когда BERT-based NER возвращает низкие вероятности для токенов на границах сущности. Эта неопределённость может использоваться для выбора наиболее информативных примеров в активном обучении.