Поиск

• wikiVisualization of computational graphs

  # Visualization of computational graphs ## Определение Отображение графов операций, например, графа зависимостей между промптами. Используется для отладки и понимания потоков данных…

• wikiAttention patterns

  # Attention patterns ## Определение Распределение весов внимания модели по токенам; визуализация этих паттернов помогает анализировать, на какие части входа модель обращает…

• wikiuncertainty UI

  # uncertainty UI ## Определение Design-паттерн для отображения неопределённости модели пользователю, влияющий на доверие и принятие решений. ## Где встречается - [[Практика|Практика…

• wikipost-hoc explanation

  # post-hoc explanation ## Определение Методы объяснения решений модели после их принятия (LIME, SHAP, attention visualization), используемые для интерпретируемости. ## Где встречается…

• wikiDistributed tracing

  # Distributed tracing ## Определение Метод отслеживания запроса через цепочку сервисов (user → gateway → RAG → LLM) с помощью correlation IDs для отладки и…

• answerКак выполнять requirement on transparency (статья 13 EU AI Act) для LLM?

  …вычислительно дорог (O(2^n) для n токенов), для длинных промптов неприменим. ### 4.3 Attention Visualization [[Вики/Attention patterns\|Attention…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать dependency management промптов

  …AI systems | | 401 | Pytest fixtures for LLM prompts | | 567 | Visualization of computational graphs | --- ## 10. Чек-лист самопроверки - [ ] Я проверил, что…

• answerЧто такое attention sink и почему он возникает в длинных контекстах?

  …attention to first 4 tokens") plt.title("Attention sink visualization") plt.show() ``` --- ## 9. Связь с другими вопросами | Вопрос | Тема | |--------|------| | [[627…

• wikiИндекс терминов

  …Injection Dataset|Visual Prompt Injection Dataset]] - [[Вики/Visualization of computational graphs|Visualization of computational graphs]] - [[Вики/ViT|ViT]] - [[Вики/ViT…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …объяснять свои решения (post-hoc explanation, LIME, SHAP, attention visualization). > > - Логировать решения для аудита. > Реализация для LLM: > > - Интерфейс: метка "Ответ…