blacklist
blacklist
Определение
Статический список запрещённых действий или фраз (например, «игнорируй инструкции»), используемый для защиты от prompt injection и ограничения агентов.
Где встречается
- 67. Что такое Prompt Injection и как вы защищаетесь
- 594. Что такое agent safety constraints (ограничения на действия агента)
- 743. Какие есть типичные failure modes в harness-engineering (over-decomposition, over-pruning)
- 165. Реализовать prompt linting