Поиск

  • wikiembedding poisoning

    # embedding poisoning ## Определение Атака на RAG-систему, при которой злоумышленник добавляет в базу знаний документы с аномальными эмбеддингами, чтобы исказить…

  • wikiBackdoor poisoning

    # Backdoor poisoning ## Определение Подтип embedding poisoning, активируемый только при наличии триггер-фразы в документе. При её появлении в запросе RAG…

  • wikiModel Poisoning

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] - [[611…

  • wikiIsolation Forest

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[356…

  • wikiEmbedding normalization

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikiTargeted poisoning

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikiLOF

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] - [[685…

  • wikiUntargeted poisoning

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikiwhitelist

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[594…

  • wikiautoencoder

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[889…

  • wikidigital signature

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[624…

  • wikiAdversarial query

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikibackdoor

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • answerЧто такое Model Poisoning в контексте RAG и как защититься?

    …Примеры атак Model Poisoning в RAG ### 2.1. Подмена эмбеддингов (Embedding Poisoning) Злоумышленник, имея доступ к [[Вики/API\|API]] индексации…

  • answerКак работает embedding poisoning для RAG и как защититься?

    …Как работает embedding poisoning для RAG и как защититься? ## Краткий тезис [[Вики/embedding poisoning\|Embedding poisoning]] ([[Вики/embedding poisoning\|отравление…

  • wikiEmbedding Rotation

    …Как защитить RAG от poisoning (вредоносные документы в базе знаний)|883. Как защитить RAG от poisoning (вредоносные документы в базе…

  • wikiHoneypot запросы

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikiSource weight

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikiMetadata consistency

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • wikiOutlier score

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] - [[800…

  • wikiTwo-phase indexing

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] ## Навигация…

  • answerКак работает embedding poisoning для RAG и как защититься?

    …Как работает embedding poisoning для RAG и как защититься? ## Краткий тезис [[Вики/embedding poisoning\|Embedding poisoning]] — это атака, при которой…

  • wikiBackfill

    …Как вы обновляете embedding модель без полной переиндексации|79. Как вы обновляете embedding модель без полной переиндексации]] - [[264. Как вы…

  • wikiROC curve

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[47…

  • wikiOutlier detection

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[355…

  • wikiизоляция

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] - [[604…

  • wikiTrusted documents

    # Trusted documents ## Определение Trusted documents — документы из проверенных источников, включаемые в белый список для защиты от embedding poisoning. ## Где встречается…

  • wikiUser confirmation

    …например, подключения нового источника данных), чтобы предотвратить атаки типа embedding poisoning. ## Где встречается - [[800+ вопросов|800+ вопросов]] ## Навигация - [[00. Индекс…

  • answerКак детектировать и предотвращать vector DB poisoning?

    …Как детектировать и предотвращать vector DB poisoning? ## Краткий тезис [[Вики/vector DB poisoning\|Vector DB poisoning]] — атака, при которой злоумышленник…

  • answerКак защитить RAG от poisoning (вредоносные документы в базе знаний)?

    Poisoning (отравление данных) **[[Вики/Model Poisoning\|Poisoning]]** — это тип атаки на [[Вики/гибридный поиск\|RAG]], при котором злоумышленник добавляет в…

  • wikiadversarial examples

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] - [[800…

  • wikisentence-transformers

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[356…

  • wikiadversarial input

    …Как работает adversarial example для embedding моделей (атака на retrieval)|611. Как работает adversarial example для embedding моделей (атака на…

  • wikiPrompt injection

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[355…

  • wikiвекторная БД

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[361…

  • answerЧто такое data poisoning атака на fine-tuning и как защититься?

    …Определение data poisoning атаки **[[Вики/Model Poisoning\|Data poisoning]]** ([[Вики/Model Poisoning\|отравление данных]]) — класс атак на машинное [[Вики/training…

  • answerЧто такое adversarial retrieval (атака на retrieval компонент)?

    …Как работает embedding poisoning для RAG и как защититься\|353]] - Следующий: [[355. Как вы защищаете LLM от градиентных атак (white…

  • answerКак работает adversarial example для embedding моделей (атака на retrieval)?

    …Вики/Model Poisoning\|poisoning]] (отравления) базы знаний. --- ## 2. Цель атаки на retrieval Формально: пусть есть [[Вики/embedding-модель\|эмбеддинг-модель…

  • wikiвекторный поиск

    …Что такое Hypothetical Document Embeddings (HyDE) и зачем|11. Что такое Hypothetical Document Embeddings (HyDE) и зачем]] - [[42. Что такое…

  • answerЧто такое data poisoning атака на fine-tuning и как защититься?

    …Что такое data poisoning атака на fine-tuning и как защититься? ## Краткий тезис **Poisoning|Data poisoning** (отравление данных) на этапе…

  • wikiRecall@k

    …от poisoning (вредоносные документы в базе знаний)]] - [[Практика|Практика]] - [[800+ вопросов|800+ вопросов]] - [[20. Настроить sharding для petabyte embeddings|20…

  • wikiembedding

    …Какие embedding-модели для мультимодального поиска вы используете CLIP, BLIP-2, ImageBind]] - [[128. Что такое Model Poisoning в контексте RAG…

  • wikiутечка данных

    …Как работает embedding poisoning для RAG и как защититься|598. Как работает embedding poisoning для RAG и как защититься]] - [[612…

  • wikiкосинусная близость

    …Какие embedding-модели для мультимодального поиска вы используете CLIP, BLIP-2, ImageBind]] - [[128. Что такое Model Poisoning в контексте RAG…

  • answerЧто такое malicious embeddings (атака через векторные БД)?

    …Как работает adversarial example для embedding моделей (атака на retrieval)\|611]] | Data poisoning | | [[605. Что такое adversarial fine-tuning для…

  • wikiMRR

    …Какие embedding-модели вы использовали и почему|15. Какие embedding-модели вы использовали и почему]] - [[35. Как вы fine-tune…

  • wikiscikit-learn

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[622…

  • wikiChroma

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[379…

  • wikiFaiss

    …Какие embedding-модели для мультимодального поиска вы используете CLIP, BLIP-2, ImageBind]] - [[128. Что такое Model Poisoning в контексте RAG…

  • wikiRecall

    …Как работает embedding poisoning для RAG и как защититься|353. Как работает embedding poisoning для RAG и как защититься]] - [[368…