Few-shot poisoning

Определение

Атака, при которой в промпт добавляются примеры нарушения правил, чтобы склонить модель к нежелательному поведению.

Где встречается

• 127. Как вы проводите red teaming LLM-приложения Назовите 3 техники.

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление