response safety

Определение

Метрика, оценивающая долю ответов LLM, не содержащих вредоносный контент (инъекции, личные данные, опасные инструкции). Критична для развёртывания в публичных системах.

Где встречается

• 395. Как вы тестируете агента на «неожиданные input» (не только adversarial, но и просто странные)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление