Фильтр на генерации
Фильтр на генерации
Определение
Проверка ответа LLM на утечку PII или вредоносный код перед выдачей пользователю; дополняет runtime detection.
Где встречается
- 263. Как вы обрабатываете PII в данных для RAG (GDPR, 152-ФЗ)
- 625. Что такое adversarial prompt detection для реального времени (runtime)
- 758. Как вы проектируете Harness для mission-critical приложения Приведите пример с агентом для банковских переводов.