Robustness@k

Определение

Процент запросов, на которые модель не дала опасный ответ при k попытках атаки, метрика для оценки безопасности в rainbow teaming.