red teaming evaluation

Определение

Оценка устойчивости LLM к атакам, проводимая в рамках red teaming. Обычно включает набор сценариев атак и метрики успешности взлома.