Robustness@k

Определение

Процент запросов, на которые модель не дала опасный ответ при k попытках атаки, метрика для оценки безопасности в rainbow teaming.

Где встречается

• 616. Как работает rainbow teaming (комбинация red + blue + purple teaming для LLM)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление