Поиск

• wikiinfrastructure cost

  # infrastructure cost ## Определение Infrastructure cost (инфраструктурные затраты) — совокупность расходов на хостинг агента, GPU, логирование, сеть и мониторинг, учитываемых при оценке…

• wikiServing infrastructure

  # Serving infrastructure ## Определение Инфраструктура для развёртывания и обслуживания моделей, включающая компоненты для масштабирования, маршрутизации и мониторинга. ## Где встречается - [[80. Какие…

• wikiPulumi

  # Pulumi ## Определение Инструмент Infrastructure as Code (IaC) для декларативного описания и управления облачной инфраструктурой. Альтернатива Terraform с поддержкой Python и…

• wikiTerraform

  # Terraform ## Определение Инструмент инфраструктуры как код (IaC) для provisioning облачных ресурсов. Используется для управления multi-region развертываниями, blue-green деплоями…

• answerНазовите 12+ слоёв эталонной архитектуры Harness?

  …Дополнительные слои (Infrastructure & Deployment) Хотя в классическом списке Harness их часто выделяют отдельно, можно добавить: - Infrastructure Layer — контейнеризация (Docker), оркестрация…

• answerКакие 3 книги/курса вы рекомендуете по production LLM?

  …Вики/agent\|LangChain]], [[Вики/LangChain\|LlamaIndex]]) — [[Вики/Serving infrastructure\|serving infrastructure]]. --- ## 3. Книга: "Build a Large Language Model (From Scratch…

• answerКак вы обрабатываете production incident с LLM (playbook)?

  …изменение промпта привело к неожиданным эффектам. - Infrastructure: сбой в векторной БД, перегрузка GPU. - External API: провайдер LLM изменил поведение (например…

• answerЧто такое jailbreak taxonomy (полная классификация)?

  …если сценарий явно запрашивает вредоносный контент — блокировать | | Level 4 (Infrastructure) | Не выводить sysprompt, использовать частотные ограничения (rate limiting) | Также применяются…

• answerЧто такое «prompt as code» (промпты в Git, code review)?

  …Термин: «Prompt as code» — происхождение и аналогия Практика заимствована из **Infrastructure as [[Вики/SQL\|Code]] (IaC)** и Data as [[Вики…

• answerКак вы измеряете стоимость агента в production (не только токены)?

  …10% Infrastructure: 5% ``` --- ## 10. Оптимизация стоимости - Уменьшение числа шагов агента (лучше планирование, меньше итераций) - Кэширование результатов инструментов (одинаковые запросы не…

• answerКак вы проектируете disaster recovery для LLM системы при сбое региона?

  …ttl = 30 records = ["llm-us-east.example.com"] } ``` Термин **Infrastructure as Code (IaC)** — описание инфраструктуры в коде, чтобы развёртывание и…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Сравнить reserved vs spot vs on-demand для ML-инфраструктуры

  …Ожидаемый результат Основной артефакт — файл `report.md` следующего содержания: ```markdown # Cost Optimization Report for ML Infrastructure ## Executive Summary Рекомендуется сценарий…

• wikiИндекс терминов

  …loss between agents|Information loss between agents]] - [[Вики/infrastructure cost|infrastructure cost]] - [[Вики/ingestion|ingestion]] - [[Вики/ingestion consumer|ingestion consumer…

• question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

  …Hypothetical (what if) > - Moral reasoning (двойные стандарты) > - **Level 4 — Infrastructure:** > - Prompt leakage (кража системного промпта) > - Model extraction **882. Как происходит…