中文翻译暂不可用,显示俄语原文。
tool injection
tool injection
Определение
Атака на агента, при которой злоумышленник контролирует API, вызываемый агентом, или подменяет ответ инструмента, чтобы внедрить вредоносные инструкции.
Где встречается
- 736. Что такое red teaming certification (стандарты 2026 для оценки robustness)
- 867. Как делать adversarial evals для RAG (проверка на устойчивость)
- 890. Как тестировать robustness LLM к adversarial inputs
- 800+ вопросов