Universal Adversarial Triggers

Определение

Короткие последовательности токенов, которые при добавлении к любому входу заставляют модель генерировать заданный вывод. Используются для тестирования устойчивости LLM к состязательным атакам.

Где встречается

• 298. Как вы тестируете robustness LLM к adversarial input (не только injection)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление