continuous red teaming

Определение

Автоматизированный процесс постоянной генерации новых атак и тестирования модели на уязвимости с использованием LLM для обеспечения robustness и безопасности.

Где встречается

• 497. Как вы проектируете red teaming evaluation для jailbreak устойчивости
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление