Memory poisoning

Определение

Злонамеренная или случайная запись неверной информации в долговременную память агента, что искажает его поведение в будущих сессиях. Атака на целостность памяти.

Где встречается

• 890. Как тестировать robustness LLM к adversarial inputs

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление