TextFooler

Определение

Black-box метод атаки на NLP-модели, заменяющий важные слова на синонимы с сохранением грамматической правильности. Используется для оценки robustness LLM и retrieval-моделей.

Где встречается

• 298. Как вы тестируете robustness LLM к adversarial input (не только injection)
• 611. Как работает adversarial example для embedding моделей (атака на retrieval)
• 890. Как тестировать robustness LLM к adversarial inputs
• Практика
• 800+ вопросов
• 279. Настроить adversarial evaluation для RAG

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление