Поиск

• wikivisual prompt injection

  # visual prompt injection ## Определение Атака на VL-модели, при которой вредоносные инструкции встраиваются в визуальный контент (например, изображения), заставляя модель…

• wikiстеганография

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiVisual Prompt Injection Dataset

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiмультимодальная изоляция

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikisafety filter

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiadversarial patch

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiInput sanitization

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiPyRIT

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikioutput filtering

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiVision-Language Models

  # Vision-Language Models ## Определение Мультимодальные модели, способные обрабатывать и связывать визуальную (изображения, видео) и текстовую информацию. Оцениваются с помощью бенчмарков…

• answerЧто такое adversarial patch для vision-language моделей (физическая атака)?

  …Как работают VL-модели и почему они уязвимы Современные [[Вики/Vision-Language Models\|VL-модели]] ([[Вики/CLIP\|CLIP]], [[Вики/LLaVA…

• wikiLLaVA

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiGarak

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• answerКак вы защищаете LLM от prompt injection через изображения (VL-модели)?

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)? ## Краткий тезис [[Вики/промпт агента\|Prompt]] [[Вики/Prompt injection…

• wikiTesseract OCR

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiadversarial training

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikired teaming

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiLoRA

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiPrompt injection

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• wikiPrompt engineering

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)|621. Как вы защищаете LLM от prompt injection через…

• answerЧто такое differential privacy для LLM и как она работает?

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621]] | Federated learning для LLM | | [[625. Что такое adversarial…

• answerКак работает мультимодальная эвалюация (MEGA, MM-Vet) для VL-моделей?

  …зачем нужна мультимодальная эвалюация [[Вики/Vision-Language Models\|VL-модели]] ([[Вики/Vision-Language Models\|Vision-Language models]]) — это модели, которые…

• answerКак работает membership inference через logits (разница в вероятностях)?

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621]] | Атаки на RAG-системы (обзор) | | [[623. Что такое…

• answerКак вы защищаете RAG от data poisoning через неявные инструкции (subtle injections)?

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621]] | Как детектировать вредоносные документы в базе знаний? | | [[622…

• answerЧто такое secure aggregation для федеративного обучения LLM?

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621]] | Дифференциальная приватность в FL | | [[622. Как работает membership…

• answerЧто такое jailbreak as a service (коммерческие jailbreak сервисы) и как защититься?

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621]] | Alignment и RLHF | --- ## Навигация (Obsidian) - Предыдущий: [[617. Как…

• indexИндекс разборов

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621. Как вы защищаете LLM от prompt injection через…

• indexОглавление

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)\|621. Как вы защищаете LLM от prompt injection через…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …Как вы защищаете LLM от prompt injection через изображения (VL-модели)?** > _Ответ:_ Злоумышленник встраивает вредоносные инструкции в изображение (текст на…