GCG
GCG
Определение
Градиентный метод белого ящика для автоматической генерации adversarial-суффиксов в jailbreak-атаках. Оптимизирует промпт путём замены токенов на основе градиента loss-функции, создавая синтаксически нелепые, но математически эффективные суффиксы.
Где встречается
- 127. Как вы проводите red teaming LLM-приложения Назовите 3 техники.
- 360. Что такое adversarial fine-tuning для защиты от jailbreak
- 868. Что такое red teaming для LLM и как его проводить
- 881. Что такое jailbreak taxonomy (полная классификация)
- 800+ вопросов