Knowledge Portal

aivaro.ru

  • 目录
  • 问题
  • 实践
  • 百科
  • 测试
  • 搜索
✈Telegram @AetSeidhe
RUEN中文
…
目录/百科/Filters

中文翻译暂不可用,显示俄语原文。

Filters

Filters

Определение

Компонент системы безопасности, используемый для фильтрации нежелательного контента или запросов, описываемый в system cards.

Где встречается

  • 800+ вопросов

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминsecurity

Обратные ссылки (29)

  • Hyena: как заменить attention на свертки, сохранив качество?
  • Индекс терминов
  • Как вы генерируете synthetic данные для instruction tuning?
  • Как вы делаете image retrieval с фильтрацией по метаданным (дата, местоположение, камера)?
  • Как вы делаете online RL для агентов (self-improvement loops)?
  • Как вы комбинируете реальные и синтетические данные для максимального качества?
  • Как вы обнаруживаете многошаговые jailbreak-атаки (через 10-20 сообщений)?
  • Как вы обрабатываете большие таблицы в RAG (500+ строк)?
  • Как вы проводите red teaming LLM-приложения? Назовите 3 техники.
  • Как делать adversarial evals для RAG (проверка на устойчивость)?
  • Как защитить RAG от poisoning (вредоносные документы в базе знаний)?
  • Как происходит PII leakage через LLM и как защититься?
  • Как работает Q-Former в BLIP-2 и зачем он нужен?
  • Как работает embedding poisoning для RAG и как защититься?
  • Как работает rainbow teaming (комбинация red + blue + purple teaming для LLM)?
  • Как работает многогранный (faceted) поиск в RAG с фильтрами?
  • Как тестировать robustness LLM к adversarial inputs?
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить cost tracking в production
  • Что такое Filtered ANN Search и как оно реализовано в Qdrant vs Weaviate?
  • Что такое Indirect Prompt Injection через RAG и как защититься?
  • Что такое Prompt Injection и как вы защищаетесь?
  • Что такое agent safety constraints (ограничения на действия агента)?
  • Что такое benchmark contamination и как ее детектировать?
  • Что такое jailbreak as a service (коммерческие jailbreak сервисы) и как защититься?
  • Что такое jailbreak taxonomy (OOD, refusal suppression, role-play, перевод)?
  • Что такое jailbreak taxonomy (полная классификация)?
  • Что такое planner/executor architecture для агентов и когда она нужна?
  • Что такое red teaming для LLM и как его проводить?
  • Что такое эволюция (evolution) в Harness Engineering (component registry, drift detection)?