RAG poisoning
RAG poisoning
Определение
Отравление RAG (RAG poisoning) — атака, при которой в корпус документов целенаправленно внедряются вредоносные данные, изменяющие или искажающие ответы системы. Может привести к серьёзным нарушениям безопасности и доверия.