Поиск

• wikiBlue-green deployment

  # Blue-green deployment ## Определение Стратегия развёртывания с двумя идентичными production-окружениями (синее — текущее, зелёное — новое), позволяющая мгновенно переключать трафик и…

• wikiRolling deployment

  # Rolling deployment ## Определение Стратегия замены подов или инстансов один за другим для постепенного обновления без простоя. ## Где встречается - [[382. Как…

• wikizero downtime

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikihybrid CPU/GPU deployment

  # hybrid CPU/GPU deployment ## Определение Сценарий развертывания, при котором часть вычислений выполняется на CPU, а часть на GPU, что позволяет…

• wikifeature flags

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiTraefik

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikicanary deployment

  # canary deployment ## Определение Стратегия постепенного развёртывания новой версии модели или промпта, при которой на начальном этапе трафик перенаправляется на новую…

• wikiArgoCD

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiThompson sampling

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] - [[723. Как моделировать…

• wikiEdge deployment

  # Edge deployment ## Определение Размещение и запуск моделей на устройствах пользователя или периферийных серверах вместо центрального облака. Позволяет достичь низкой задержки…

• wikiVirtualService

  # VirtualService ## Определение Ресурс Istio для настройки маршрутизации трафика, позволяющий реализовать canary deployment моделей LLM (например, постепенное переключение трафика между версиями…

• wikiHAProxy

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiNGINX Ingress

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] - [[410. Как вы…

• wikiStateful

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiRolling update

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiMulti-region deployment

  # Multi-region deployment ## Определение Размещение инфраструктуры LLM-системы в нескольких географических регионах для снижения сетевой задержки и повышения отказоустойчивости. Включает…

• wikiKong

  …Настроить canary deployment промптов|164. Настроить canary deployment промптов]] - [[195. Реализовать blue-green deployment для RAG|195. Реализовать blue-green…

• wikiGitOps

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|410. Как вы делаете blue-green deployment для…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить version tagging для промптов (latest, stable, canary)

  …Ключевой результат Рабочая система тегирования промптов, где по тегам `:[[Вики/canary deployment\|latest]]`, `:[[Вики/canary deployment\|stable]]`, `:[[Вики/canary deployment…

• answerКак делать canary deployment для промптов (5% трафика)?

  …Canary deployment (канареечное развёртывание) **[[Вики/canary deployment\|Canary]] [[Вики/canary deployment\|deployment]]** — метод развёртывания, при котором новый релиз сначала получает…

• wikiLoad balancer

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiLogits processors

  …TensorRT-LLM vs vLLM — сравнение для production deployment.|318. TensorRT-LLM vs vLLM — сравнение для production deployment.]] ## Навигация - [[00. Индекс…

• wikiInference engine

  …TensorRT-LLM vs vLLM — сравнение для production deployment.|318. TensorRT-LLM vs vLLM — сравнение для production deployment.]] ## Навигация - [[00. Индекс…

• wikiCI/CD

  # CI/CD ## Определение Continuous Integration/Continuous Deployment — пайплайн автоматической сборки, тестирования и развертывания моделей и сервисов. ## Где встречается - [[62. Какие…

• wikiSeldon Core

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] ## Навигация - [[00. Индекс…

• wikiToxicity score

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] ## Навигация - [[00. Индекс…

• wikiWeighted routing

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] ## Навигация - [[00. Индекс…

• wikicontainer orchestration

  …Реализовать blue-green deployment для RAG|195. Реализовать blue-green deployment для RAG]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…

• wikiCustom layers

  …TensorRT-LLM vs vLLM — сравнение для production deployment.|318. TensorRT-LLM vs vLLM — сравнение для production deployment.]] ## Навигация - [[00. Индекс…

• wikirollback

  …Как делать canary deployment для промптов (5% трафика)|803. Как делать canary deployment для промптов (5% трафика)]] - [[809. Как управлять…

• wikiSiege

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|410. Как вы делаете blue-green deployment для…

• wikisticky-сессия

  …Настроить canary deployment промптов|164. Настроить canary deployment промптов]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00. Индекс разборов|Индекс разборов…

• wikihot-reload

  …Реализовать blue-green deployment для RAG|195. Реализовать blue-green deployment для RAG]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…

• wikimock-LLM

  …Настроить canary deployment промптов|164. Настроить canary deployment промптов]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00. Индекс разборов|Индекс разборов…

• wikiDetoxify

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] - [[102. Настроить Guardrails…

• wikiJailbreak-атаки

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] ## Навигация - [[00. Индекс…

• answerКак вы проектируете canary deployment для LLM модели?

  …Как вы проектируете canary deployment для LLM модели? ## Краткий тезис **[[Вики/canary deployment\|Canary]] [[Вики/canary deployment\|deployment]]** для [[Вики…

• wikiMax sequence length

  …TensorRT-LLM vs vLLM — сравнение для production deployment.|318. TensorRT-LLM vs vLLM — сравнение для production deployment.]] ## Навигация - [[00. Индекс…

• answerКак вы делаете blue-green deployment для RAG системы с zero downtime?

  …Как вы делаете blue-green deployment для RAG системы с zero downtime? ## Краткий тезис [[Вики/Blue-green deployment\|Blue-green…

• wikiNginx

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikiresponse_quality_score

  …Настроить canary deployment промптов|164. Настроить canary deployment промптов]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00. Индекс разборов|Индекс разборов…

• wikiTensorRT Plugin API

  …TensorRT-LLM vs vLLM — сравнение для production deployment.|318. TensorRT-LLM vs vLLM — сравнение для production deployment.]] ## Навигация - [[00. Индекс…

• wikiGrace period

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] ## Навигация - [[00. Индекс…

• wikiFixed shapes

  …TensorRT-LLM vs vLLM — сравнение для production deployment.|318. TensorRT-LLM vs vLLM — сравнение для production deployment.]] ## Навигация - [[00. Индекс…

• wikiConnection Draining

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|410. Как вы делаете blue-green deployment для…

• wikiramp

  …Как вы проектируете canary deployment для LLM модели|382. Как вы проектируете canary deployment для LLM модели]] - [[800+ вопросов|800…

• wikiBulk API

  …Как вы делаете blue-green deployment для RAG системы с zero downtime|243. Как вы делаете blue-green deployment для…

• wikireverse proxy

  …Реализовать blue-green deployment для RAG|195. Реализовать blue-green deployment для RAG]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…

• wikiShadow testing

  …Как делать canary deployment для промптов (5% трафика)|803. Как делать canary deployment для промптов (5% трафика)]] ## Навигация - [[00. Индекс…

• wikiupstream

  …Реализовать blue-green deployment для RAG|195. Реализовать blue-green deployment для RAG]] - [[263. Реализовать автоматический postmortem|263. Реализовать автоматический…