Поиск

wikiAction Distribution Drift
# Action Distribution Drift ## Определение Изменение распределения действий агента со временем. Первый сигнал о дрейфе поведения, требует мониторинга. ## Где встречается - [[391…
wikidangerous action
# dangerous action ## Определение Действие агента, которое может привести к нежелательным последствиям (потеря данных, нарушение приватности, финансовый ущерб). Требует механизма 'человек…
wikiactions/github-script
# actions/github-script ## Определение GitHub Action для выполнения скриптов, используемый для отправки diff в комментарий PR. ## Где встречается - [[171. Реализовать…
wikiThought-Action-Observation loop
# Thought-Action-Observation loop ## Определение Основной цикл ReAct-агента: генерация мысли, выполнение действия, получение наблюдения; используется для трассировки с OpenTelemetry…
wikiCustom actions
# Custom actions ## Определение Пользовательские действия, определяемые в файле actions.py для настройки Guardrails под специфические сценарии. ## Где встречается - [[102. Настроить…
wikicritical actions
# critical actions ## Определение Действия агента, требующие человеческого одобрения из-за высокого риска или чувствительности (например, денежные транзакции или доступ к…
wikiRecovery actions
# Recovery actions ## Определение После health check агент запускает одно из recovery actions, например, восстановление из checkpoint или переключение на backup…
wikistate-action-next state
# state-action-next state ## Определение Триплет, описывающий состояние системы, действие агента и результирующее состояние. Используется для создания синтетических eval-примеров…
wikiGitHub Actions Summary
# GitHub Actions Summary ## Определение Автоматическая сводка результатов выполнения CI-пайплайна, отображаемая в pull request. ## Где встречается - [[149. Настроить regression test…
wikiAction safety rate
# Action safety rate ## Определение Доля безопасных действий агента. ## Где встречается - [[499. Как вы оцениваете alignment модели с человеческими ценностями без…
wikiaction head
# action head ## Определение Компонент архитектуры агента, реализующий политику выбора действия. Может дообучаться отдельно. ## Где встречается - [[579. Как работает agent replay…
answerКак вы обеспечиваете «человека в петле» (HITL) для критических действий агента?
…return f""" ⚠️ Требуется подтверждение Действие: {action['name']} Параметры: {action['params']} **Контекст**: {action['context']} Риски: {action['risks']} Введите "approve" для выполнения…
wikiAction Correctness
# Action Correctness ## Определение Метрика оценки агента, измеряющая правильность вызова инструментов и последовательности действий. ## Где встречается - [[748. Как в Harness Engineering…
wikiAction F1
# Action F1 ## Определение Сбалансированная метрика точности и полноты для инструментов, используемых агентом. ## Где встречается - [[786. Что такое «golden dataset» для…
wikiatomic action
# atomic action ## Определение Принцип, при котором функция выполняет одно логическое действие, следуя Single Responsibility. Обеспечивает простоту и тестируемость инструментов агента…
wikiCompensating actions
# Compensating actions ## Определение Действия, выполняемые для отката уже выполненных шагов в случае ошибки, обеспечивающие согласованность системы. ## Где встречается - [[752. Как…
wikiaccidental harmful actions
# accidental harmful actions ## Определение Непреднамеренные действия агента, которые могут нанести вред. Для их предотвращения применяется обязательное двухэтапное подтверждение (human-in…
wikichain of actions
# chain of actions ## Определение Последовательность вызовов инструментов агентом для выполнения задачи. Кэширование результатов каждого шага усложняет инвалидацию при обновлении знаний…
wikiaction items
# action items ## Определение Конкретные шаги с ответственными и сроками для устранения последствий и предотвращения инцидентов. ## Где встречается - [[99. Написать postmortem…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать human‑in‑the‑loop для критических действий
…pending:{action_id} = {user_id, action_type, payload, expires_at} import json, redis r = redis.Redis() action_id = str(uuid…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Интегрировать OpenTelemetry в агента
…Для [[Вики/action\|action]] добавьте атрибуты - `[[Вики/action\|action]].tool_name` (строка) - `[[Вики/action\|action]].input` (строка) - `[[Вики/action\|action…
wikireasoning steps
# reasoning steps ## Определение Отдельные шаги в процессе рассуждения агента, каждый из которых имеет свою стоимость (токены, время, вызовы инструментов). ## Где…
answerКак работают browser agents и computer use agents (Claude Computer Use)?
…200} if action["type"] == "click": mouse_click(action["x"], action["y"]) elif action["type"] == "type": keyboard_type(action["text"]) ``` ### 3…
wikiaction
# action ## Определение Действие, выполняемое агентом, обычно вызов внешнего инструмента (function calling). Может завершиться ошибкой, требует валидации и rate limiting. ## Где…
answerЧто такое ReAct Agent и как он работает?
…проверяем, есть ли вызов инструмента action = parse_action(response) if action["type"] == "final": return action["content"] elif action["type"] == "tool…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Агент с tree search (MCTS) для математической задачи
…return path action = random.choice(env.get_actions(state)) state = env.step(state, action) path.append(action) return None ``` 3…
wikiGitHub Actions
# GitHub Actions ## Определение Система CI/CD от GitHub для автоматического запуска тестов, сборки и деплоя моделей и пайплайнов при пушах…
wikiобнаружение повторяющихся действий
# обнаружение повторяющихся действий ## Определение Механизм завершения агента при повторении одинакового действия (action+input) два и более раза. Основан на хэшировании…
wikiObservation of Error
…Как вы обрабатываете ошибки агента (action не сработал, API вернул ошибку)|60. Как вы обрабатываете ошибки агента (action не сработал…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать prompt diff
…Напишите GitHub [[Вики/action\|Action]] для публикации [[Вики/Diff\|diff]] в комментарии PR: - [[Вики/Trigger\|Триггер]]: `pull_request` с изменением…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Создать blameless postmortem культуру
…Настройте автоматическое создание issue в Jira/Linear для каждого [[Вики/action\|action]] item из [[Вики/postmortem\|postmortem]] (опционально). 4. Добавьте…
answerКак работают verifier models для agentic RAG?
…action = agent.act(state) is_valid, confidence = step_verifier(state, action) if not is_valid and confidence > 0.8: # fast…
answerКак вы боретесь с «бесконечным циклом» агента в Agentic RAG?
…action = agent.act(state) if action.is_final(): return action.answer state = environment.step(action) # Если цикл не завершился return…
wikiOpenAI Functions
…Как вы обрабатываете ошибки агента (action не сработал, API вернул ошибку)|60. Как вы обрабатываете ошибки агента (action не сработал…
answerКак вы обрабатываете ошибки агента (action не сработал, API вернул ошибку)?
…действие агента, API‑ошибка, graceful fallback - **[[Вики/action\|Action]] (действие агента)** — [[Вики/OpenAI Functions\|вызов инструмента]] (интеграции, [[Вики/API\|API…
wikiDatadog
…Как вы обрабатываете ошибки агента (action не сработал, API вернул ошибку)|60. Как вы обрабатываете ошибки агента (action не сработал…
answerКак вы ограничиваете бесконечный цикл агента?
…Пример реализации ```python action_set = set() def execute_safe(agent_action): key = (agent_action.tool, json.dumps(agent_action.args…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить regression test suite для AI-агента
…Ключевой результат 100% успешное прохождение всех golden кейсов при каждом PR, полная автоматизация в [[Вики/CICD\|Actions]] с фиксацией результатов…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить RAGAS evaluation pipeline с автоматическим запуском при каждом PR
…Цель задачи Создать CI/CD-пайплайн на [[Вики/CICD\|GitHub Actions]], который при каждом [[Вики/PR\|Pull Request]] автоматически запускает…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать Agent Loop с нуля
…Добавьте результат вызова инструмента в `[[Вики/messages\|messages]]` как сообщение с ролью `"[[Вики/action\|tool]]"`: ```python messages.append({"role": "tool…
answerКак проектировать agent permissions (least privilege модель)?
…Рекомендуется следовать синтаксису `[[Вики/action\|action]]:resource`: `read:[[Вики/documents\|documents]]`, `write:user_profile_own`. ### Примеры типовых scopes для агента…
answerЧто такое agent safety constraints (ограничения на действия агента)?
…rule = HARD_CONSTRAINTS.get(action_name) if rule == "never_allowed": return False, f"Action '{action_name}' is prohibited." if rule…
practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать prompt linting
…Ключевой результат Рабочий [[Вики/CLI\|CLI-линтер]] + [[Вики/Workflow\|Actions]] workflow]], который при каждом коммите проверяет [[Вики/промпты\|промпты]] из…
wikiJira
# Jira ## Определение Система управления задачами, используемая для автоматического создания action items по результатам postmortem и отслеживания инцидентов. ## Где встречается - [[100…
answerКак в Harness Engineering реализована эвалюация и дрейф (evaluation & drift)?
…0.9 action: "block" - metric: "latency_p95" threshold: 3000 # ms action: "warn" ``` Такой подход превращает оценку агента в часть [[Вики…
answerКак вы строите DSL (Domain-Specific Language) для вашей LLM-системы?
…DSL: [ {"action": "web_search", "params": {"query": "новости искусственный интеллект 2025"}}, {"action": "generate", "params": {"prompt": "Сделай краткую сводку из результатов поиска…
wikiPlan
# Plan ## Определение Структурированная последовательность шагов, выполняемая агентом для достижения цели, или бинарный файл оптимизированной модели TensorRT-LLM после сборки. ## Где…
wikiDocker-образ
…Используется для установки утилит в CI/CD, например в GitHub Actions. ## Где встречается - [[171. Реализовать prompt diff|171. Реализовать prompt…
wikiFormat Adherence
…Thought/Action/Observation). ## Где встречается - [[53. Как вы проектируете промпт для агента с инструментами|53. Как вы проектируете промпт для…
answerКак вы проектируете агента, который может работать непрерывно (24/7) без дрейфа поведения?
…Мониторинг распределения действий (action distribution drift) **[[Вики/probability distribution\|Distribution]] [[Вики/probability distribution\|Distribution]] [[Вики/action\|Action]] [[Вики/probability distribution…