Поиск

• wikiPrivacy Accounting

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiTensorFlow Privacy

  # TensorFlow Privacy ## Определение Библиотека для реализации дифференциальной приватности (DP) в TensorFlow, используемая для защиты данных при обучении моделей. ## Где встречается…

• wikiRényi DP

  # Rényi DP ## Определение Вариант differential privacy, использующий расхождение Реньи для точного учёта композиции приватности при многократных запросах к данным. ## Где…

• wikiprivacy by design

  # privacy by design ## Определение Принцип проектирования систем, при котором защита данных и приватность встраиваются на всех этапах разработки, а не…

• wikidp_accounting

  # dp_accounting ## Определение Библиотека для учёта приватности (privacy accounting) в JAX. ## Где встречается - [[620. Что такое differential privacy для LLM…

• wikiPrivacy attacks

  # Privacy attacks ## Определение Класс атак на модель, направленных на извлечение конфиденциальных данных, включающий membership inference, data extraction и другие. ## Где…

• wikidifferential privacy

  # differential privacy ## Определение Метод защиты конфиденциальности данных, гарантирующий, что удаление или добавление одного образца обучающей выборки не изменит выход модели…

• wikizCDP

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerЧто такое differential privacy для LLM и как она работает?

  …Определение differential privacy [[Вики/differential privacy\|Differential privacy]] — это формальное [[Вики/Invariant\|свойство]] алгоритма (например, обучения модели), которое ограничивает влияние…

• wikiL2 Norm

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiDP Inference

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiPATE

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiDP-Fine-tuning

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiDP-ретривер

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiGhost Clipping

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiNoise Multiplier

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiOpacus

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiMemorization

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiData parallelism

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiExplicit forget mechanism

  # Explicit forget mechanism ## Определение Механизм, позволяющий агенту удалять историю сессии из памяти для соблюдения privacy compliance, например требований GDPR. ## Где…

• wikiGDPR

  # GDPR ## Определение Европейский регламент по защите персональных данных, устанавливающий строгие требования к обработке PII: согласие субъекта, право на забвение, минимизация…

• wikimembership inference attack

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerКак происходит PII leakage через LLM и как защититься?

  …Защита строится на нескольких уровнях: [[Вики/Scrubbing\|фильтрация PII]] на этапе сбора данных, применение **[[Вики/differential privacy\|differential privacy]]** при…

• wikiPII leakage

  # PII leakage ## Определение Уязвимость, при которой LLM раскрывает персональные данные из обучающей выборки или контекста. Метрика PII leakage измеряет долю…

• wikiclipping

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• wikiBERT

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerКак вы делаете агента «забывающим» (для GDPR / privacy compliance)?

  …Privacy [[Вики/Compliance\|compliance]] — [[Вики/accuracy\|соответствие]] системы требованиям privacy-регуляций ([[Вики/GDPR\|GDPR]], CCPA, и др.). Для AI-агентов…

• answerЧто такое data exfiltration через LLM (утечка данных через ответы)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Differential privacy в LLM | | [[625. Что такое adversarial prompt…

• answerЧто такое data poisoning атака на fine-tuning и как защититься?

  …Пример использования Opacus ```python from opacus import PrivacyEngine model = YourModel() optimizer = torch.optim.SGD(model.parameters(), lr=0.01) privacy…

• answerКак работает model stealing attack и как защититься?

  …Offline Distillation и Differential Privacy ### Offline Distillation Вместо того чтобы выставлять оригинальную [[Вики/model\|модель]], компания обучает меньшую дистиллированную [[Вики…

• wikiDistilGPT2

  …Что такое differential privacy для LLM и как она работает|620. Что такое differential privacy для LLM и как она…

• answerКак работает membership inference атака на LLM?

  …Атака относится к классу атак на приватность ([[Вики/Privacy attacks\|privacy attacks]]) и является одной из наиболее изучаемых угроз для…

• answerКак спроектировать систему, где LLM должна работать с конфиденциальными данными (медицина, финансы)?

  …удаление [[Вики/PII\|PII]] из реальных данных, затем [[Вики/fine-tuning\|fine-tuning]] 3. [[Вики/differential privacy\|Дифференциальная приватность]] ([[Вики…

• answerКак вы защищаете LLM от prompt injection через изображения (VL-модели)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как защитить RAG от prompt injection (текстовые атаки) | | [[622…

• answerКак работает LLM fingerprinting (идентификация модели по ответам)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Защита модели от копирования и подмены | --- ## Навигация (Obsidian) - Предыдущий…

• answerКак защититься от prompt stealing (кража системного промпта)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Какие есть методы конфессионального обучения (data privacy) для LLM…

• answerКак работает model inversion атака (восстановление training данных)?

  …Дифференциальная приватность (DP) [[Вики/differential privacy\|Дифференциальная приватность]] математически гарантирует, что удаление или добавление одного примера не изменит выход модели…

• answerКак вы защищаете агента от tool injection (вредоносный API ответ)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как обеспечить безопасность RAG-системы? | | [[610. Что такое malicious…

• answerКак вы версионируете агента целиком (prompts, tools, memory schema, orchestration graph)?

  …Как вы делаете агента «забывающим» (для GDPR privacy compliance)\|394]] | Что такое Agentic RAG и чем отличается от обычного RAG…

• answerКак вы измеряете «cost of reasoning» у агента (не только токены, но и шаги, время, ошибки)?

  …Как вы делаете агента «забывающим» (для GDPR privacy compliance)\|394]] - Индекс: [[00. Индекс разборов]]

• answerКак вы защищаете RAG от data poisoning через неявные инструкции (subtle injections)?

  …Что такое differential privacy для LLM и как она работает\|620]] | Как защитить RAG от prompt injection? | | [[621. Как вы…

• answerКак вы шифруете данные для RAG (конфиденциальность)?

  …Шифрование не отменяет требования privacy by design. - [[Вики/HIPAA\|HIPAA]] требуется шифрование PHI (protected health information) at rest и in…

• answerКак вы делаете агента, который может «просить помощи» у другого агента или человека?

  …Как вы делаете агента «забывающим» (для GDPR privacy compliance)\|394]] | Что такое supervisor agent | | [[393. Как вы измеряете «cost of…

• answerКак масштабировать vLLM на несколько GPU/нод?

  …TP + PP + DP На крупных кластерах (16–64+ GPU) используется иерархия: - [[Вики/differential privacy\|DP]] на верхнем уровне: несколько реплик…

• answerКак вы оцениваете качество language representation для задачи?

  …железо) | Зависит от объёма | | **Stability** | Зависит от модели | Стабильна | | Privacy | Данные не уходят | Данные отправляются провайдеру | Для агента, работающего в…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать user trust метрику

  …confidence calibration) | | #305 | UX-метрики для диалоговых систем | | #450 | Privacy by design в AI-продуктах | | #600 | Визуализация данных с Plotly…

• answerКак работает model extraction attack и как защититься?

  …Что такое data poisoning атака на fine-tuning и как защититься\|601]] | Что такое differential privacy и как применить к…

• answerЧто такое «agentic mesh» (сеть взаимодействующих агентов) и как вы его дебажите?

  …Как вы делаете агента «забывающим» (для GDPR privacy compliance)\|394]] | Как обеспечить безопасность и контроль доступа между агентами | | [[395. Как…

• answerЧто такое secure aggregation для федеративного обучения LLM?

  …Что такое differential privacy для LLM и как она работает\|620]] | Федеративное обучение: основы и архитектура | | [[621. Как вы защищаете…

• answerКак вы обрабатываете PII в данных для RAG (GDPR, 152-ФЗ)?

  …видеть ([[Вики/Metadata filtering\|фильтрация по метаданным]]). - [[Вики/differential privacy\|Дифференциальная приватность]] (advanced): [[Вики/noise injection\|добавление шума]] в [[Вики…