JailbreakBench

Определение

Датасет известных jailbreak-атак, используемый для бенчмаркинга устойчивости моделей к обходу ограничений.