Randomized Smoothing

Определение

Метод обеспечения сертифицированной устойчивости модели путём добавления шума к входу и усреднения предсказаний, гарантирующий робастность в окрестности.

Где встречается

• 298. Как вы тестируете robustness LLM к adversarial input (не только injection)
• 355. Как вы защищаете LLM от градиентных атак (white-box jailbreak)
• 611. Как работает adversarial example для embedding моделей (атака на retrieval)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление