Поиск

• wikirecord_shapes

  # record_shapes ## Определение Опция PYTORCH_CUDA_ALLOC_CONF для записи форм тензоров при каждой аллокации, помогающая в дебаге. ## Где встречается…

• wikipy-spy

  …Косвенно используется для дебага memory fragmentation. ## Где встречается - [[846. Как дебажить memory fragmentation в LLM сервере|846. Как дебажить memory…

• answerЧто такое «agentic mesh» (сеть взаимодействующих агентов) и как вы его дебажите?

  …Проблемы дебага agentic mesh Дебаг распределённой сети агентов принципиально сложнее дебага монолитного [[Вики/RAG\|RAG]]: - [[Вики/недетерминированность\|Недетерминизм]]: из-за…

• answerКак дебажить memory fragmentation в LLM сервере?

  …Инструменты для дебага ### 3.1 Базовый мониторинг - **`[[Вики/nvidia-smi\|nvidia-smi]]`** — общая used/free [[Вики/Memory\|память]] на уровне…

• answerКак вы дебажите проблему "LLM не следовала системному промпту"?

  …Дополнительные техники и продвинутый дебаг - Декомпозиция инструкции: разбить системный промпт на несколько вызовов (цепочка: сначала классификация запроса, затем генерация). - [[Вики…

• answerКак вы дебажите агента, который делает неправильные действия?

  …Как вы дебажите агента, который делает неправильные действия? ## Краткий тезис Дебаг агента — это систематический процесс, основанный на прозрачности каждого шага…

• answerКак вы дебажите низкую GPU utilization (например, 40% на A100)?

  …Пошаговая методика дебага ### Шаг 1: Быстрая диагностика ```bash nvidia-smi -l 1 ``` Смотрим: - GPU-Util: 40% - Memory-Usage: если низкая…

• answerLangSmith — зачем и как используете?

  …мышление, [[Вики/function calling\|вызов инструмента]], ответ) многократно ускоряет дебаг и оптимизацию. --- ## 1. Что такое LangSmith? [[Вики/LangSmith\|LangSmith]] — это…

• answerКак вы логируете и дебажите многошаговые агенты?

  …Стратегии дебага ### 7.1 Воспроизведение сессии - Используйте `session_id` для повторного запуска агента с теми же входными данными. - В LangSmith…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить high-cardinality metrics в VictoriaMetrics

  …под нагрузкой | | Инструментарий | `curl`, `jq`, `docker-compose` | Управление и дебаг | --- ## 4. Этапы выполнения ### Этап 1: Развёртывание VictoriaMetrics (30 мин) [[Вики…

• answerЧто такое Chain-of-Thought без токенов (latent CoT, COCONUT)?

  …Несовместимость с существующими инструментами — многие системы ([[Вики/Audit logging\|логирование]], дебаггинг) завязаны на текстовые рассуждения. [[Вики/Latent Reasoning\|Latent CoT…

• answerКак вы проектируете RAG для 10k RPS с P99 latency <200ms? Архитектура.

  …Также это упрощает мониторинг и дебаггинг. Пример реализации на Python (упрощённо): ```python import hashlib class ConsistentHashRing: def __init__(self, nodes…

• answerЧто такое «canary testing» для агентов (10% трафика на новую версию)?

  …split-трафика | | Логирование | ELK, Grafana Loki, AWS CloudWatch | Для дебага конкретных запросов | Для небольших проектов можно реализовать [[Вики/canary deployment…

• answerКак вы дебажите training instability (loss spikes, divergence)?

  …что логировать Для эффективного дебага нужно логировать не только [[Вики/Loss\|loss]], но и внутренние состояния модели. Основные метрики: | Метрика…

• answerЧто такое 3D parallelism (data + tensor + pipeline)?

  …Преимущества и недостатки | Преимущества | Недостатки | |--------------|------------| | Позволяет обучать модели любого размера (при достаточных GPU) | Сложность реализации и дебаггинга | | Масштабирование на тысячи…

• answerКак управлять dependency между промптами (один промпт вызывает другой)?

  …Управление состоянием в агентных системах | | 808 | Версионирование промптов | | 810 | Дебаггинг и трассировка агентов | | [[730. Что такое LLM для symbolic regression…

• answerКак вы дебажите медленную меж-GPU коммуникацию в multi-node инференсе?

  …Для дебага используется [[Вики/benchmark\|бенчмаркинг]] (`[[Вики/nccl-tests\|nccl-tests]]`), [[Вики/Check\|проверка]] физической топологии (`[[Вики/nvidia-smi topo…

• indexПРАКТИЧЕСКИЙ ЧЕКЛИСТ: СТАFF+ AI SYSTEMS ENGINEERING

  …Memory агента | Pet 228, H 105, H 113 | | 49 | Дебаг агента | Q 147, Q 153, H 103, H 114 | | 50…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …иногда перегруженность ведёт к ошибкам) **Акцент:** «LangSmith — мастхэв для дебага production агентов». --- **50. Как вы ограничиваете бесконечный цикл агента?** **Структура…