Поиск

• wikiRényi DP

  # Rényi DP ## Определение Вариант differential privacy, использующий расхождение Реньи для точного учёта композиции приватности при многократных запросах к данным. ## Где…

• wikidifferential privacy

  # differential privacy ## Определение Метод защиты конфиденциальности данных, гарантирующий, что удаление или добавление одного образца обучающей выборки не изменит выход модели…

• wikiPrivacy Accounting

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikizCDP

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiTensorFlow Privacy

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikidp_accounting

  # dp_accounting ## Определение Библиотека для учёта приватности (privacy accounting) в JAX. ## Где встречается - [[620. Что такое differential privacy для LLM…

• wikiDP Inference

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiDP-Fine-tuning

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiDP-ретривер

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiL2 Norm

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiPATE

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiGhost Clipping

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiNoise Multiplier

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiOpacus

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiMemorization

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiData parallelism

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerЧто такое differential privacy для LLM и как она работает?

  …Определение differential privacy [[Вики/differential privacy\|Differential privacy]] — это формальное [[Вики/Invariant\|свойство]] алгоритма (например, обучения модели), которое ограничивает влияние…

• wikimembership inference attack

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerКак происходит PII leakage через LLM и как защититься?

  …Защита строится на нескольких уровнях: [[Вики/Scrubbing\|фильтрация PII]] на этапе сбора данных, применение **[[Вики/differential privacy\|differential privacy]]** при…

• wikiclipping

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiBERT

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerКак работает model stealing attack и как защититься?

  …Offline Distillation и Differential Privacy ### Offline Distillation Вместо того чтобы выставлять оригинальную [[Вики/model\|модель]], компания обучает меньшую дистиллированную [[Вики…

• wikiDistilGPT2

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerЧто такое data exfiltration через LLM (утечка данных через ответы)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Differential privacy в LLM | | [[625. Что такое adversarial prompt…

• answerЧто такое data poisoning атака на fine-tuning и как защититься?

  …Дифференциальная приватность (Differential Privacy) **[[Вики/Data parallelism\|Дифференциальная приватность]] (DP)** — это математическая гарантия, что результат анализа данных не позволяет определить…

• answerКак работает membership inference атака на LLM?

  …Differential Privacy (DP) — первая линия обороны [[Вики/training\|Обучение]] с дифференциальной приватностью (DP‑[[Вики/SGD\|SGD]]) гарантирует, что любое изменение…

• answerКак вы делаете агента «забывающим» (для GDPR / privacy compliance)?

  …При forget удаляется только маппинг. - [[Вики/differential privacy\|Дифференциальная приватность]] — добавлять шум в память агента, чтобы отдельные записи нельзя было…

• answerКак спроектировать систему, где LLM должна работать с конфиденциальными данными (медицина, финансы)?

  …удаление [[Вики/PII\|PII]] из реальных данных, затем [[Вики/fine-tuning\|fine-tuning]] 3. [[Вики/differential privacy\|Дифференциальная приватность]] ([[Вики…

• answerКак вы защищаете LLM от prompt injection через изображения (VL-модели)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как защитить RAG от prompt injection (текстовые атаки) | | [[622…

• answerКак работает LLM fingerprinting (идентификация модели по ответам)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Защита модели от копирования и подмены | --- ## Навигация (Obsidian) - Предыдущий…

• answerКак защититься от prompt stealing (кража системного промпта)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Какие есть методы конфессионального обучения (data privacy) для LLM…

• answerКак работает model inversion атака (восстановление training данных)?

  …Дифференциальная приватность (DP) [[Вики/differential privacy\|Дифференциальная приватность]] математически гарантирует, что удаление или добавление одного примера не изменит выход модели…

• answerКак вы защищаете агента от tool injection (вредоносный API ответ)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как обеспечить безопасность RAG-системы? | | [[610. Что такое malicious…

• answerКак вы защищаете RAG от data poisoning через неявные инструкции (subtle injections)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как защитить RAG от prompt injection? | | [[621. Как вы…

• answerКак масштабировать vLLM на несколько GPU/нод?

  …TP + PP + DP На крупных кластерах (16–64+ GPU) используется иерархия: - [[Вики/differential privacy\|DP]] на верхнем уровне: несколько реплик…

• answerКак работает model extraction attack и как защититься?

  …Что такое data poisoning атака на fine-tuning и как защититься\|601]] | Что такое differential privacy и как применить к…

• answerЧто такое secure aggregation для федеративного обучения LLM?

  …Что такое differential privacy для LLM и как она работает\|620]] | Федеративное обучение: основы и архитектура | | [[621. Как вы защищаете…

• answerКак вы обрабатываете PII в данных для RAG (GDPR, 152-ФЗ)?

  …право видеть ([[Вики/Metadata filtering\|фильтрация по метаданным]]). - [[Вики/differential privacy\|Дифференциальная приватность]] (advanced): [[Вики/noise injection\|добавление шума]] в…

• answerЧто такое MITRE ATLAS и как он связан с MITRE ATT&CK?

  …контрмеры: [[Вики/adversarial training\|adversarial training]], [[Вики/Data parallelism\|differential privacy]], [[Вики/мониторинг\|мониторинг]] дрейфа данных. Для [[Вики/RED metrics…

• answerЧто такое jailbreak as a service (коммерческие jailbreak сервисы) и как защититься?

  …Что такое differential privacy для LLM и как она работает\|620]] | Watermarking в LLM | | [[621. Как вы защищаете LLM от…

• answerНазовите OWASP Top 10 для LLM (2025) и 3 самых критичных риска?

  …удалять чувствительные поля перед передачей модели. - [[Вики/differential privacy\|Дифференциальная приватность]] при обучении ([[Вики/Data parallelism\|DP-SGD]]) — снижает риск…

• answerКак работает membership inference атака на LLM?

  …Защита от MIA ### 6.1 Дифференциальная приватность (Differential Privacy, DP) Наиболее теоретически обоснованный метод. При обучении с DP в градиенты…

• answerКак работает RoPE (Rotary Position Embeddings) для экстраполяции на длинные контексты?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как работает attention в трансформерах? (основа для RoPE) | | [[625…

• answerКак работает rainbow teaming (комбинация red + blue + purple teaming для LLM)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как оценивать безопасность LLM с помощью метрик? | | [[605. Что…

• answerКак вы делаете длинный контекст для RAG (100k+ токенов в контексте)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как бы вы спроектировали RAG-систему для [[10. Что…

• wikiИндекс терминов

  …diff2html-cli|diff2html-cli]] - [[Вики/differencing|differencing]] - [[Вики/differential privacy|differential privacy]] - [[Вики/difflib|difflib]] - [[Вики/diffusers|diffusers]] - [[Вики/diffusion…

• indexИндекс разборов

  …Что такое differential privacy для LLM и как она работает\|620. Что такое differential privacy для LLM и как она…

• indexОглавление

  …Что такое differential privacy для LLM и как она работает\|620. Что такое differential privacy для LLM и как она…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …фильтр, удаляющий PII из ответов. > > - Differential privacy при обучении. > **613. Как работает model watermarking для LLM (идентификация модели-источника)?** > _Ответ…