TextAttack

Определение

Библиотека для генерации adversarial примеров и тестирования устойчивости NLP-моделей к атакам. Включает встроенные методы атак (TextFooler, HotFlip и др.) и датасеты для оценки robustness.

Где встречается

• 34. Какая у вас была самая сложная проблема при fine-tuning и как вы её решили
• 298. Как вы тестируете robustness LLM к adversarial input (не только injection)
• 355. Как вы защищаете LLM от градиентных атак (white-box jailbreak)
• 523. Как вы делаете synthetic data generation для редких классов в датасете
• 683. Что такое data augmentation для LLM (back-translation, paraphrasing, masking)
• 867. Как делать adversarial evals для RAG (проверка на устойчивость)
• 890. Как тестировать robustness LLM к adversarial inputs
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление