Zero-shot attack
Zero-shot attack
Определение
Тип атаки, при котором модель выдает системный промпт без явного запроса; fine-tuning может не защитить от таких случаев.
Тип атаки, при котором модель выдает системный промпт без явного запроса; fine-tuning может не защитить от таких случаев.