tool injection

Определение

Атака на агента, при которой злоумышленник контролирует API, вызываемый агентом, или подменяет ответ инструмента, чтобы внедрить вредоносные инструкции.

Где встречается

• 736. Что такое red teaming certification (стандарты 2026 для оценки robustness)
• 867. Как делать adversarial evals для RAG (проверка на устойчивость)
• 890. Как тестировать robustness LLM к adversarial inputs
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление