Многошаговая jailbreak-атака

Определение

Атака на LLM, при которой вредоносный запрос разбивается на серию из 10-20 сообщений, чтобы обойти защитные механизмы и получить запрещённый ответ.

Где встречается

• 129. Как вы обнаруживаете многошаговые jailbreak-атаки (через 10-20 сообщений)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление