Garak

Определение

Open-source фреймворк для автоматизированного red-teaming и тестирования LLM на уязвимости, такие как jailbreak, галлюцинации и утечка данных. Используется до деплоя для оценки безопасности модели.

Где встречается

• 67. Что такое Prompt Injection и как вы защищаетесь
• 125. Объясните разницу между NeMo Guardrails и Garak. Когда что используется
• 127. Как вы проводите red teaming LLM-приложения Назовите 3 техники.
• 345. Как вы проектируете red teaming evaluation для jailbreak устойчивости
• 352. Что такое jailbreak taxonomy (OOD, refusal suppression, role-play, перевод)
• 395. Как вы тестируете агента на «неожиданные input» (не только adversarial, но и просто странные)
• 497. Как вы проектируете red teaming evaluation для jailbreak устойчивости
• 616. Как работает rainbow teaming (комбинация red + blue + purple teaming для LLM)
• 618. Что такое jailbreak as a service (коммерческие jailbreak сервисы) и как защититься
• 621. Как вы защищаете LLM от prompt injection через изображения (VL-модели)
• 736. Что такое red teaming certification (стандарты 2026 для оценки robustness)
• 867. Как делать adversarial evals для RAG (проверка на устойчивость)
• 868. Что такое red teaming для LLM и как его проводить
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление