Поиск

• wikiallowed_patterns

  # allowed_patterns ## Определение Параметр конфигурации, задающий список разрешённых шаблонов для исключений в системе проверки промптов (prompt linting), позволяющий обходить определённые…

• wikiAttention patterns

  # Attention patterns ## Определение Распределение весов внимания модели по токенам; визуализация этих паттернов помогает анализировать, на какие части входа модель обращает…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать prompt linting

  …errors = [] patterns = rule_config.get("patterns", []) for pat in patterns: if re.search(re.escape(pat), prompt, re.IGNORECASE): errors…

• answerКак вы делаете data quality monitoring для RAG корпуса?

  …map_metric = "column_values.not_contain_pii" success_keys = ("pii_patterns",) default_kwarg_values = {"pii_patterns": [r"\b\d{[[2…

• answerКак вы проверяете, что модель действительно использует структуру представления, а не игнорирует ее?

  …Сравниваем [[Вики/Attention patterns\|attention patterns]] на структурированных vs неструктурированных частях (например, [[Вики/plain text\|plain text]] с теми же…

• answerНазовите 7 production failure modes для agentic AI систем по PAEF (Pandey, 2026)?

  …Как вы детектируете Distribution Collapse у агента\|167]] | Design patterns для надёжных AI-агентов | | [[168. Что такое «Tool Degradation with…

• answerКак вы защищаете RAG от document injection (вредоносные документы в базе знаний)?

  …str) -> bool: """Возвращает True, если chunk безопасен (не содержит инъекций).""" for pattern in SUSPICIOUS_PATTERNS: if re.search(pattern, chunk…

• answerКак вы делаете agent robustness к adversarial instructions (jailbreak через агента)?

  …for pattern in JAILBREAK_PATTERNS: if re.search(pattern, text, re.IGNORECASE): return True return False ``` Когда недостаточно: злоумышленники используют…

• answerЧто такое Indirect Prompt Injection через RAG и как защититься?

  …простой санитайзер для retrieved chunks ```python import re SUSPICIOUS_PATTERNS = [ r"(?i)ignor(?:e|ing)\s+(?:previous|all|prior)\s…

• answerЧто такое «prompt linting» (статический анализ промптов)?

  …patterns = [ r"ignore\s+(all\s+)?(previous|prior)\s+instructions", r"you\s+are\s+now\s+(a\s+)?(different…

• answerКак вы защищаете LLM от prompt injection через RAG (когда документ содержит инструкцию)?

  …for pattern in DANGEROUS_PATTERNS: text = re.sub(pattern, "[REDACTED]", text) return text ``` Важно Санитизация не должна нарушать смысл документа…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить S3 consistency для RAG

  …configuration and tuning | | 523 | Read-after-write patterns | | 667 | Graceful degradation patterns | | 789 | Testing distributed systems | --- ## 10. Чек-лист самопроверки…

• answerКак выполнять requirement on transparency (статья 13 EU AI Act) для LLM?

  …вычислительно дорог (O(2^n) для n токенов), для длинных промптов неприменим. ### 4.3 Attention Visualization [[Вики/Attention patterns\|Attention…

• answerКак вы защищаете multi-agent систему от вредоносного агента?

  …forbidden_patterns = [ r"ignore (previous|all) instructions", r"you are now", r"system prompt" ] for pattern in forbidden_patterns: if…

• answerЧто такое data poisoning атака на fine-tuning и как защититься?

  …Пример проверки на подозрительные паттерны ```python import re suspicious_patterns = [ r'import os', r'subprocess\.', r'eval\(', r'exec\(', r…

• answerКакие книги или ресурсы вы рекомендуете по Harness Engineering?

  …2 Курсы и лекции - **Andrew Ng «AI Agentic Design Patterns»** (DeepLearning.AI) — короткие видео про routing и tool use. - Семинар…

• answerЧто такое AgentPool и Handoff в multi-agent orchestration?

  …интеграция инструментов | | 744 | Communication protocols между агентами | | 746 | Orchestration patterns (supervisor, pipeline) | | 750 | Оценка производительности multi-agent систем | --- ## Навигация (Obsidian…

• answerВ чем разница между Workflow и Guidance в теории harness-engineering?

  …templates и connectors | | [[Вики/AutoGen\|AutoGen]] | Workflow через conversation patterns, guidance как оркестрация между агентами | | CrewAI / Prefect | Workflow через DAG…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать cost-aware routing

  …Performance benchmarking of language models | | 45 | Cost-aware architecture patterns | | 112 | Logistic regression for text classification | | 205 | FastAPI deployment best…

• answerКак детектировать «объяснительно-решенческую декомпозицию»?

  …Анализ внимания (attention) и градиентов (saliency) Для transformer-based агентов можно анализировать [[Вики/Attention patterns\|attention weights]] ([[Вики/Attention\|веса…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Спроектировать escalation system (AI → Human при low confidence)

  …Связанные вопросы из базы знаний | Вопрос | Тема | |--------|------| | 12 | Confidence calibration in LLMs | | 45 | Human-in-the-loop design patterns | | 112…

• answerКак работает Infini-attention (Google, 2024) для бесконечного контекста?

  …L \cdot w)\) (sparse attention) | Локальное + глобальное внимание | Sparse patterns | | **Linear Attention** (Katharopoulos) | \(O(L)\) | Ядерное приближение (kernel trick) | Linear…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать simulation testing для AI-агента

  …unittest.mock vs responses vs aioresponses | | 45 | Fault injection techniques для микросервисов | | 67 | Resilience patterns: retry, circuit breaker, fallback | | 89…

• answerКак вы управляете cost хранения векторной БД при миллиарде векторов?

  …Логируйте access patterns. 5. Мониторьте cost per vector — настройте алерты при превышении порога $0.001. 6. Тестируйте recall после каждого…

• wikiИндекс терминов

  …rule]] - [[Вики/allowed variations|allowed variations]] - [[Вики/allowed_patterns|allowed_patterns]] - [[Вики/AllReduce|AllReduce]] - [[Вики/allreduce_perf|allreduce_perf]] - [[Вики…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …Как вы проверяете, что модель действительно использует структуру представления, а не игнорирует ее?** > *Ответ:* > - **Probing:** смотрим attention patterns на структурированных…