Guardrails AI

Определение

Фреймворки и программные прослойки (например, Guardrails AI, NeMo Guardrails) для валидации и фильтрации входных и выходных данных LLM с целью обеспечения безопасности и соответствия политикам.

Где встречается

• 594. Что такое agent safety constraints (ограничения на действия агента)
• 616. Как работает rainbow teaming (комбинация red + blue + purple teaming для LLM)
• 618. Что такое jailbreak as a service (коммерческие jailbreak сервисы) и как защититься
• 744. Что такое Agent Loop и какие компоненты входят в production-ready loop
• 757. Какие инструменты и фреймворки существуют для Harness Engineering

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление