Model Poisoning
Model Poisoning
Определение
Атака, при которой злоумышленник внедряет вредоносные данные в обучающий набор для компрометации модели.
Где встречается
- 126. Что такое MITRE ATLAS и как он связан с MITRE ATT&CK
- 128. Что такое Model Poisoning в контексте RAG и как защититься
- 356. Что такое data poisoning атака на fine-tuning и как защититься
- 359. Как вы защищаете multi-agent систему от вредоносного агента
- 598. Как работает embedding poisoning для RAG и как защититься
- 611. Как работает adversarial example для embedding моделей (атака на retrieval)
- 616. Как работает rainbow teaming (комбинация red + blue + purple teaming для LLM)
- 624. Как вы защищаете RAG от data poisoning через неявные инструкции (subtle injections)
- 867. Как делать adversarial evals для RAG (проверка на устойчивость)
- 883. Как защитить RAG от poisoning (вредоносные документы в базе знаний)
- 800+ вопросов