LLM-firewall
LLM-firewall
Определение
Компонент безопасности, фильтрующий вредоносные запросы и ответы LLM для защиты от prompt injection, jailbreak и утечки данных. Примеры включают NeMo Guardrails.
Где встречается
- 883. Как защитить RAG от poisoning (вредоносные документы в базе знаний)
- 888. Как защититься от prompt stealing (кража системного промпта)
- 800+ вопросов