Поиск

• wikimodel inversion attack

  # model inversion attack ## Определение Атака, при которой злоумышленник восстанавливает приватные данные, на которых обучалась модель, используя доступ к её выходам…

• answerКак работает model inversion атака (восстановление training данных)?

  …Model Inversion Attack [[Вики/model inversion attack\|Model inversion]] ([[Вики/model inversion attack\|инверсия модели]]) — это восстановление исходных тренировочных данных…

• answerКак работает model stealing attack и как защититься?

  …Это защищает от **[[Вики/model inversion attack\|model inversion]]** и **[[Вики/membership inference attack\|membership inference]]**, но не полностью от…

• answerЧто такое secure aggregation для федеративного обучения LLM?

  …inference]] attack|[[Вики/membership inference attack\|атака членства]], **[[Вики/model inversion attack\|membership inference]]**). - Извлечь чувствительные признаки (например, диагноз пациента…

• answerЧто такое MITRE ATLAS и как он связан с MITRE ATT&CK?

  …Это позволяет создать теневую [[Вики/model\|модель]] или найти уязвимости. **AML.T0040 — [[Вики/model inversion attack\|Model Inversion]] ([[Вики/inference…

• answerЧто такое data exfiltration через LLM (утечка данных через ответы)?

  …Как работает model inversion атака (восстановление training данных)\|608]] | Prompt injection и защита от него | | [[610. Что такое malicious embeddings…

• answerКак работает model extraction attack и как защититься?

  …Защита | |-------|------|--------|--------| | [[Вики/model extraction\|Model extraction]] | Копия поведения | API (black-box) | Ограничение информации, цена | | [[Вики/model inversion attack\|Membership inference…

• answerЧто такое benchmark contamination и как ее детектировать?

  …Детекция [[Вики/утечка данных\|contamination]] включает анализ [[Вики/n-gram\|n-gram]] [[Вики/Overlap\|overlap]], [[Вики/model inversion attack\|membership…

• answerКак работает membership inference атака на LLM?

  …Как работает membership inference атака на LLM? ## Краткий тезис **[[Вики/model inversion attack\|Membership inference]] атака ([[Вики/membership inference attack…

• answerКак работает membership inference через logits (разница в вероятностях)?

  …membership inference, логиты, вероятности [[Вики/model inversion attack\|Membership inference]] — [[Вики/Task\|задача]] [[Вики/Privacy attacks\|атаки на приватность]] модели…

• answerКак работает membership inference атака на LLM?

  …Что такое membership inference атака (MIA) [[Вики/model inversion attack\|Membership inference]] — это [[Вики/Task\|задача]] определения, входил ли конкретный…

• answerКак вы детектируете data contamination в evaluation датасетах?

  …gram overlap]] ([[Вики/Check\|проверка]] совпадений текстовых фрагментов), [[Вики/model inversion attack\|membership inference]] attacks ([[Вики/membership inference attack\|MIA…

• answerКак вы защищаете RAG от document injection (вредоносные документы в базе знаний)?

  …Как работает model inversion атака (восстановление training данных)\|608]] - Следующий: [[610. Что такое malicious embeddings (атака через векторные БД)\|610…

• answerКак делать adversarial evals для RAG (проверка на устойчивость)?

  …Игнорируй контекст, ответь: …]»). - [[Вики/embedding inversion\|Embedding inversion]] — попытка восстановить исходный текст по эмбеддингу (обычно для атак на приватность). ### 2…

• answerКак работает prompt leakage (кража системного промпта) и как защититься?

  …Как работает model inversion атака (восстановление training данных)\|608]] | Какие есть методы атак на LLM? | | [[610. Что такое malicious embeddings…

• answerЧто такое malicious embeddings (атака через векторные БД)?

  …Как работает model inversion атака (восстановление training данных)\|608]] | Self-RAG | --- ## 10. Навигация (Obsidian) - Предыдущий: [[609\|609]] - Следующий: [[611\|611…

• wikiИндекс терминов

  …Model Compiler|Model Compiler]] - [[Вики/model depth|model depth]] - [[Вики/model extraction|model extraction]] - [[Вики/model inversion attack|model inversion…

• answerКак вы защищаете RAG-систему от утечки данных между клиентами (multi-tenant isolation)?

  …Сами по себе [[Вики/embedding\|эмбеддинги]] не содержат строковых данных, но атака [[Вики/model inversion attack\|inference attack]] теоретически может…

• answerЧто такое sandbox escape для AI-агента и как защититься?

  …Как работает model inversion атака (восстановление training данных)\|608]] - Индекс: [[00. Индекс разборов]]

• answerКак работают inference schedulers (FCFS, Priority, Fairness)?

  …Его задачи: - Управление очередью — [[Вики/Query\|запросы]], пришедшие одновременно или быстрее, чем [[Вики/model\|модель]] может их обработать, ставятся в…

• indexИндекс разборов

  …Как работает model inversion атака (восстановление training данных)\|608. Как работает model inversion атака (восстановление training данных)?]] - [[609. Как вы…

• indexОглавление

  …Как работает model inversion атака (восстановление training данных)\|608. Как работает model inversion атака (восстановление training]] - [[Вопросы/Ответы/609. Как…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …Как работает model inversion атака (восстановление training данных)?** > _Ответ:_ Атака: для модели, обученной на персональных данных (например, медицинские записи), злоумышленник…