Поиск

wikiCounterfactual
…Позволяет оценить верность и объяснимость решений агента. ## Где встречается - [[800+ вопросов|800+ вопросов]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…
wikiXAI
# XAI ## Определение Направление искусственного интеллекта, обеспечивающее объяснимость решений моделей на основе формальных методов. Позволяет интерпретировать и проверять выводы агентов. ## Где…
answerКак вы измеряете объяснимость (explainability) агентских решений?
…Как вы измеряете объяснимость (explainability) агентских решений? ## Краткий тезис [[Вики/Interpretability\|Объяснимость]] агентских решений — это способность системы предоставить понятное человеку…
wikiInterpretability
# Interpretability ## Определение Свойство модели, позволяющее понять причины её решений; достигается методами вроде LIME, SHAP или анализа внутренних представлений, что критично…
answerЧто такое «Tool Degradation with Availability Masking» и как ее обнаружить?
…Как вы измеряете объяснимость (explainability) агентских решений\|169]] | Как тестировать надёжность агента при сбоях инструментов? | | [[170. Что такое GIM (Grounded…
answerЧто такое GIM (Grounded Integration Measure) и чем он отличается от GPQA?
…Как вы измеряете объяснимость (explainability) агентских решений\|169]] | Какие бенчмарки используются для оценки Agentic RAG? | | [[171. Что такое IRT (Item…
answerКак выполнять requirement on transparency (статья 13 EU AI Act) для LLM?
…disclosure (раскрытие факта взаимодействия с ИИ), **[[Вики/Interpretability\|explainability]]** ([[Вики/Interpretability\|объяснимость]] решений) и **[[Вики/мониторинг\|logging]]** ([[Вики/мониторинг\|логирование…
answerКак работает tree search (MCTS) для LLM агентов?
…формулировки мыслей). - Легко распараллеливается – итерации независимы. - Даёт [[Вики/Interpretability\|объяснимость]] – можно показать, какие варианты рассматривались. ### Недостатки - [[Вики/cost\|Затраты]] по…
answerЧто такое watermarking для LLM генераций и как его детектировать?
…атрибуции) | | **604** | Что такое интерпретируемость LLM? (Watermark связан с объяснимостью происхождения) | | **608** | Как бороться с галлюцинациями? (Watermark может помочь в…
answerКак вы детектируете Distribution Collapse у агента?
…Как вы измеряете объяснимость (explainability) агентских решений\|169]] | Как вы боретесь с зацикливанием (looping) агента? | | [[170. Что такое GIM (Grounded…
answerНазовите 7 production failure modes для agentic AI систем по PAEF (Pandey, 2026)?
…Как вы измеряете объяснимость (explainability) агентских решений\|169]] | Безопасность и alignment в agentic AI | | [[170. Что такое GIM (Grounded Integration…
answerКак детектировать «объяснительно-решенческую декомпозицию»?
…в регулируемых областях (медицина, финансы) требуется [[Вики/Interpretability\|объяснимость]]. - Улучшения агента: если [[Вики/decoupling\|decoupling]] обнаружен, можно дообучить агента ([[Вики…
answerЧто вы видите следующим горизонтом после language representation?
…модальностей (текст, таблицы, [[Вики/Graphs\|графы]], изображения). - [[Вики/Interpretability\|Объяснимость]] — почему [[Вики/AI agents\|агент]] выбрал именно этот план. Текущие…
answerЧто такое Path-level evaluation для Agentic RAG и чем оно лучше token-level?
…путей | Нет | Да (лишние шаги, неправильный порядок) | | [[Вики/Interpretability\|Объяснимость]] | Низкая (только численная оценка текста) | Высокая (можно проследить, где именно…
answerКогда DSPy *не* подходит? Назовите 3 сценария.
…the-loop\|Human-in-the-loop]]). - Нужна [[Вики/Interpretability\|объяснимость]] каждого шага рассуждения [[Вики/GPT-4o\|LLM]]. ### 5.4 Альтернативы…
answerКак вы проектируете data lineage для RAG (от документа к ответу)?
…анализируя [[Вики/data lineage\|lineage]], можно оптимизировать стратегию чанкинга, [[Вики/embedding\|эмбеддинги]] или механизм ранжирования. - [[Вики/Interpretability\|Объяснимость]]: для пользователя…
answerКак делать feature engineering для RAG (кроме текста)?
…5. [[Вики/Interpretability\|Объяснимость]] — [[Вики/метаданные\|метаданные]] позволяют понять, почему выбран конкретный [[Вики/chunking\|чанк]]. 6. [[Вики/compensating transaction\|Компенсация…
indexИндекс разборов
…Как вы измеряете объяснимость (explainability) агентских решений\|169. Как вы измеряете объяснимость (explainability) агентских решений?]] - [[170. Что такое GIM (Grounded…
indexОглавление
…Как вы измеряете объяснимость (explainability) агентских решений\|169. Как вы измеряете объяснимость (explainability) агентских реш]] - [[Вопросы/Ответы/170. Что такое…
question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)
…Как вы измеряете объяснимость (explainability) агентских решений?** > *Ответ:* Через perturbation-consistency: если слегка изменить вход (например, перефразировать), должно ли объяснение…