Toxicity rate
Toxicity rate
Определение
Toxicity rate (уровень токсичности) — метрика качества генеративных моделей, измеряющая долю сгенерированных ответов, содержащих токсичный контент (оскорбления, враждебные высказывания и т.п.). Обычно используется в автоматических детекторах для оценки безопасности модели. Высокий уровень токсичности сигнализирует о необходимости дополнительной настройки или фильтрации выходов.