Prefix injection

Определение

Тип атаки, при которой в начало ответа модели вставляется фраза, заставляющая модель продолжить в нужном направлении.

Где встречается

• 345. Как вы проектируете red teaming evaluation для jailbreak устойчивости
• 597. Что такое jailbreak taxonomy (OOD, refusal suppression, role-play, перевод)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление