document injection
document injection
Определение
Атака на RAG-систему, при которой злоумышленник загружает вредоносный документ, содержащий скрытые инструкции, изменяющие поведение модели.
Атака на RAG-систему, при которой злоумышленник загружает вредоносный документ, содержащий скрытые инструкции, изменяющие поведение модели.