embedding poisoning

Определение

Атака на RAG-систему, при которой злоумышленник добавляет в базу знаний документы с аномальными эмбеддингами, чтобы исказить результаты retrieval и повлиять на ответы модели.

Где встречается

• 353. Как работает embedding poisoning для RAG и как защититься
• 598. Как работает embedding poisoning для RAG и как защититься
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление