Adversarial suffix
Adversarial suffix
Определение
Специально подобранная последовательность токенов, добавляемая к запросу для jailbreak LLM, чтобы заставить модель выдать запрещённый контент.
Где встречается
- 127. Как вы проводите red teaming LLM-приложения Назовите 3 техники.
- 600. Как вы защищаете LLM от градиентных атак (white-box jailbreak)
- 881. Что такое jailbreak taxonomy (полная классификация)
- 800+ вопросов