Инжект контекста
Инжект контекста
Определение
Атака, при которой вредоносный промпт внедряется через документы, извлечённые ретривером в RAG, влияя на генерацию. Также адаптация промпта под конкретный запрос.
Где встречается
- 53. Как вы проектируете промпт для агента с инструментами
- 625. Что такое adversarial prompt detection для реального времени (runtime)