Outlier detection

Определение

Методы выявления аномальных точек данных, используемые для защиты от атак (poisoning, adversarial) и контроля качества данных в системах RAG и агентах.

Где встречается

• 128. Что такое Model Poisoning в контексте RAG и как защититься
• 254. Как вы проектируете disaster recovery для LLM системы при сбое региона
• 261. Как вы управляете качеством разметки (label quality) для DPO датасетов
• 353. Как работает embedding poisoning для RAG и как защититься
• 355. Как вы защищаете LLM от градиентных атак (white-box jailbreak)
• 356. Что такое data poisoning атака на fine-tuning и как защититься
• 359. Как вы защищаете multi-agent систему от вредоносного агента
• 400. Как вы проектируете систему для continuous learning LLM-агента в production — чтобы агент улучшался от взаимодействий с пользователями без переобучения на шум и без катастрофиче...
• 516. Как вы управляете качеством разметки (label quality) для DPO датасетов
• 599. Что такое adversarial retrieval (атака на retrieval компонент RAG)
• 604. Как вы защищаете multi-agent систему от вредоносного агента
• 624. Как вы защищаете RAG от data poisoning через неявные инструкции (subtle injections)
• 685. Как вы детектируете и удаляете низкокачественные примеры из синтетического датасета
• 883. Как защитить RAG от poisoning (вредоносные документы в базе знаний)
• 889. Как детектировать и предотвращать vector DB poisoning
• Практика
• 800+ вопросов
• 30. Настроить correlation между метриками
• 144. Настроить anomaly detection по cost
• 169. Реализовать rollback промпта
• 255. Настроить correlation метрик
• 263. Реализовать автоматический postmortem

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление