Поиск

• wikiConstitutional AI

  # Constitutional AI ## Определение Подход, при котором LLM генерирует сравнения на основе заданных принципов (конституции), что лежит в основе RLAIF. ## Где…

• answerЧто такое EU AI Act и как оно влияет на деплой LLM в production?

  …вывода на рынок и использования систем ИИ. Основные цели: - Обеспечить [[Вики/Safetysecurity\|безопасность]] и соблюдение фундаментальных прав граждан. - Стимулировать инновации…

• answerЧто такое jailbreak taxonomy (OOD, refusal suppression, role-play, перевод)?

  …добавление в [[Вики/промпт агента\|системный промпт]] явного запрета на смену роли, которая нарушает безопасность; fine-tuning на adversarial role…

• answerЧто такое MITRE ATLAS и как он связан с MITRE ATT&CK?

  …Что такое Constitutional AI и как оно применяется в производстве\|130]] | Безопасность цепочки поставок ML | | [[132. Как вы калибруете LLM…

• answerКак вы строите DSL (Domain-Specific Language) для вашей LLM-системы?

  …Найди последние новости про ИИ и отправь мне на почту. DSL: [ {"action": "web_search", "params": {"query": "новости искусственный интеллект 2025…

• answerЧто такое Constitutional AI и как оно применяется в производстве?

  …повышает [[Вики/Safetysecurity\|безопасность]], но требует тщательной разработки самой конституции. --- ## 1. Термин: Constitutional AI (Конституционный ИИ) [[Вики/Constitutional AI\|Constitutional…

• answerНазовите OWASP Top 10 для LLM (2025) и 3 самых критичных риска?

  …Когда что используется\|125]] | Безопасность цепочки поставок (LLM05) | | [[127. Как вы проводите red teaming LLM-приложения Назовите 3 техники.\|127…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Multi-tenant RAG с изоляцией данных

  …в Qdrant (filtered search) | Query API | 201 | | Безопасность tenant-изоляции в приложениях ИИ | Security | 378 | | LangChain: работа с несколькими векторными…

• answerКак вы проектируете red teaming evaluation для jailbreak устойчивости?

  …объективно сравнить [[Вики/Safetysecurity\|безопасность]] разных [[Вики/GPT-4o\|LLM]] (например, [[Вики/Llama\|LLaMA]] vs [[Вики/Mistral\|Mistral]] vs [[Вики…

• answerЧто такое red teaming для LLM и как его проводить?

  …Что вы видите следующим горизонтом после language representation\|200]] | Trustworthy AI (надежный ИИ) | | [[210. Что такое chunked prefill и зачем…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …ПРОДВИНУТАЯ БЕЗОПАСНОСТЬ (10 вопросов) *Без ответов на эти вопросы вы не пройдете собеседование в enterprise-компанию на 400k+ .* **121. Назовите…