Prefix injection
Prefix injection
Определение
Тип атаки, при которой в начало ответа модели вставляется фраза, заставляющая модель продолжить в нужном направлении.
Где встречается
- 345. Как вы проектируете red teaming evaluation для jailbreak устойчивости
- 597. Что такое jailbreak taxonomy (OOD, refusal suppression, role-play, перевод)