Knowledge Portal

aivaro.ru

  • Оглавление
  • Вопросы
  • Практика
  • Вики
  • Тесты
  • Поиск
✈Telegram @AetSeidhe
RUEN中文
…
Оглавление/Вики/sensitive data

sensitive data

sensitive data

Определение

Данные, разглашение которых может причинить вред (PII, ключи, документы). LLM могут непреднамеренно воспроизводить такие данные из обучающего набора.

Где встречается

  • 800+ вопросов

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминdatasecurity

Обратные ссылки (19)

  • OpenAI vs Anthropic vs Groq vs Self-hosted — что выбираете?
  • Индекс терминов
  • Как вы защищаете RAG от document injection (вредоносные документы в базе знаний)?
  • Как вы защищаете RAG-систему от утечки данных между клиентами (multi-tenant isolation)?
  • Как вы обнаруживаете многошаговые jailbreak-атаки (через 10-20 сообщений)?
  • Как вы проектируете red teaming evaluation для jailbreak устойчивости?
  • Как вы проектируете «человека в петле» для multi-agent системы с минимальным overhead?
  • Как вы тестируете robustness LLM к adversarial input (не только injection)?
  • Как вы шифруете данные для RAG (конфиденциальность)?
  • Как работает membership inference атака на LLM?
  • Как работает prompt leakage (кража системного промпта) и как защититься?
  • Как спроектировать систему, где LLM должна работать с конфиденциальными данными (медицина, финансы)?
  • Когда вы выбираете fine-tuning вместо RAG, а когда — наоборот?
  • Назовите OWASP Top 10 для LLM (2025) и 3 самых критичных риска?
  • Что такое Prompt Injection и как вы защищаетесь?
  • Что такое adversarial fine-tuning для защиты от jailbreak?
  • Что такое adversarial prompt detection для реального времени (runtime)?
  • Что такое idempotency в контексте LLM API и зачем она нужна?
  • Что такое jailbreak taxonomy (OOD, refusal suppression, role-play, перевод)?