Outlier detection
Outlier detection
Определение
Методы выявления аномальных точек данных, используемые для защиты от атак (poisoning, adversarial) и контроля качества данных в системах RAG и агентах.
Где встречается
- 128. Что такое Model Poisoning в контексте RAG и как защититься
- 254. Как вы проектируете disaster recovery для LLM системы при сбое региона
- 261. Как вы управляете качеством разметки (label quality) для DPO датасетов
- 353. Как работает embedding poisoning для RAG и как защититься
- 355. Как вы защищаете LLM от градиентных атак (white-box jailbreak)
- 356. Что такое data poisoning атака на fine-tuning и как защититься
- 359. Как вы защищаете multi-agent систему от вредоносного агента
- 400. Как вы проектируете систему для continuous learning LLM-агента в production — чтобы агент улучшался от взаимодействий с пользователями без переобучения на шум и без катастрофиче...
- 516. Как вы управляете качеством разметки (label quality) для DPO датасетов
- 599. Что такое adversarial retrieval (атака на retrieval компонент RAG)
- 604. Как вы защищаете multi-agent систему от вредоносного агента
- 624. Как вы защищаете RAG от data poisoning через неявные инструкции (subtle injections)
- 685. Как вы детектируете и удаляете низкокачественные примеры из синтетического датасета
- 883. Как защитить RAG от poisoning (вредоносные документы в базе знаний)
- 889. Как детектировать и предотвращать vector DB poisoning
- Практика
- 800+ вопросов
- 30. Настроить correlation между метриками
- 144. Настроить anomaly detection по cost
- 169. Реализовать rollback промпта
- 255. Настроить correlation метрик
- 263. Реализовать автоматический postmortem