Поиск

wikiKubernetes Secret
# Kubernetes Secret ## Определение Объект Kubernetes для хранения конфиденциальных данных (API-ключей, паролей); монтируется в поды через secretKeyRef в виде файлов…
wikiKubernetes Job
# Kubernetes Job ## Определение Объект Kubernetes для запуска batch-задач, выполняющихся до завершения; используется для одноразовых фоновых процессов, таких как backfill…
wikiExternal Secrets Operator
# External Secrets Operator ## Определение Kubernetes-оператор для автоматической синхронизации секретов (например, API-ключей) из внешних хранилищ (Vault, AWS Secrets Manager…
wikiReloader
# Reloader ## Определение Контроллер в Kubernetes, автоматически перезапускающий поды при изменении связанных Secrets или ConfigMaps, обеспечивая применение ротации ключей. ## Где встречается…
wikiSealed Secrets
# Sealed Secrets ## Определение Подход к шифрованию секретов в Git-репозитории с расшифровкой только внутри кластера Kubernetes, альтернатива ESO для небольших…
wikiKubernetes Admission Controller
# Kubernetes Admission Controller ## Определение Механизм Kubernetes, перехватывающий запросы к API-серверу для проверки и модификации подов перед их созданием, применяемый…
wikiKubernetes probe
# Kubernetes probe ## Определение Механизм Kubernetes для проверки состояния контейнера (liveness, readiness, startup), используемый для настройки health checks и автоматического восстановления…
wikiKubernetes Jobs
# Kubernetes Jobs ## Определение Множественное число Kubernetes Job; API-объекты для запуска пакетных задач в изолированных контейнерах, применяемые для batch-обработки…
wikiFlink Kubernetes Operator
# Flink Kubernetes Operator ## Определение Kubernetes-оператор для развёртывания и управления Flink-кластерами, упрощает организацию стриминговых пайплайнов, например для real-time…
wikiPod
# Pod ## Определение Базовая единица развёртывания в Kubernetes, содержащая один или несколько контейнеров с общими ресурсами и сетью. ## Где встречается - [[413…
wikiConfigMap
# ConfigMap ## Определение объект Kubernetes для хранения конфигурации, не для секретов ## Где встречается - [[422. Как вы управляете секретами (API keys для…
wikiKubernetes Device Plugin for MIG
# Kubernetes Device Plugin for MIG ## Определение Специализированный плагин Kubernetes, который управляет MIG-инстансами (Multi-Instance GPU) как отдельными устройствами, позволяя…
wikiClusterIP
# ClusterIP ## Определение Тип сервиса Kubernetes, предоставляющий доступ к подам внутри кластера по внутреннему IP с балансировкой и поддержкой session affinity…
wikiKubernetes device plugin
# Kubernetes device plugin ## Определение Плагин Kubernetes, управляющий доступом к специализированным устройствам (например, GPU), поддерживающий MIG, MPS и time-slicing, и…
wikiIRSA
…Как вы управляете секретами (API keys для LLM) в Kubernetes|255. Как вы управляете секретами (API keys для LLM) в…
wikiAWS Secrets Manager
…Синхронизируется с Kubernetes через External Secrets Operator. ## Где встречается - [[90. Как вы проектируете API для внешних систем, использующих вашу LLM…
wikiKind
# Kind ## Определение Инструмент для запуска локальных Kubernetes-кластеров внутри Docker-контейнеров, используемый для тестирования и разработки. ## Где встречается - [[382. Как…
wikiVault
# Vault ## Определение Внешнее хранилище секретов для централизованного управления API-ключами и другими конфиденциальными данными, интегрируемое с Kubernetes через CSI или…
wikiFalco
# Falco ## Определение Инструмент обнаружения подозрительного доступа к секретам и API‑ключам в Kubernetes. ## Где встречается - [[422. Как вы управляете секретами…
wikiServiceAccount
# ServiceAccount ## Определение Объект Kubernetes, служащий идентификатором pod'а для привязки прав доступа через RBAC. ## Где встречается - [[422. Как вы управляете…
wikirefreshInterval
# refreshInterval ## Определение Параметр в External Secrets Operator (ESO), задающий периодичность проверки изменений секрета в Kubernetes. ## Где встречается - [[422. Как вы…
wikiRoleBinding
# RoleBinding ## Определение Механизм в Kubernetes, привязывающий роль (Role) к сервисному аккаунту (ServiceAccount) для управления доступом к ресурсам. ## Где встречается - [[422…
wikiCustom Resource Definition
# Custom Resource Definition ## Определение Расширение Kubernetes API для создания кастомных ресурсов, например для управления секретами. ## Где встречается - [[422. Как вы…
wikiSecretStore
# SecretStore ## Определение Ресурс External Secrets Operator (ESO), определяющий подключение к внешнему хранилищу секретов и способ синхронизации с Secret-ресурсами Kubernetes…
wikiGKE/AKS
# GKE/AKS ## Определение Управляемые Kubernetes-сервисы от Google (GKE) и Microsoft (AKS) для развёртывания ML-моделей и пайплайнов на GPU…
wikiNetworkPolicy
# NetworkPolicy ## Определение Ресурс Kubernetes, определяющий правила сетевого трафика между подами. Используется для ограничения исходящего трафика, например, только к внешнему хранилищу…
wikiencryption-at-rest
# encryption-at-rest ## Определение Шифрование данных на уровне хранения, например, для etcd в Kubernetes для защиты Secrets. ## Где встречается - [[255…
wikiVault Agent Injector
# Vault Agent Injector ## Определение Компонент, который инжектирует sidecar-контейнер в под Kubernetes для автоматического разворачивания секретов из Vault. ## Где встречается…
wikiCSI
# CSI ## Определение CSI (Container Storage Interface) — стандартизированный интерфейс для подключения внешних хранилищ к контейнерам в Kubernetes, позволяющий, например, монтировать секреты…
wikidynamic secrets
…Как вы управляете секретами (API keys для LLM) в Kubernetes|255. Как вы управляете секретами (API keys для LLM) в…
wiki502 Bad Gateway
# 502 Bad Gateway ## Определение HTTP-ошибка, возникающая при попадании запросов на завершающийся pod в Kubernetes. Указывает, что шлюз или прокси…
wikiSecrets Store CSI Driver
# Secrets Store CSI Driver ## Определение Драйвер Kubernetes, который монтирует секреты из внешних хранилищ (например, AWS Secrets Manager) как том в…
wikitermTimeoutSeconds
# termTimeoutSeconds ## Определение Параметр Kubernetes (terminationGracePeriodSeconds), задающий максимальное время на graceful shutdown пода. Для LLM serving его увеличивают, чтобы успеть завершить…
wikiPreStop hook
# PreStop hook ## Определение Kubernetes lifecycle hook, выполняющий заданную команду или HTTP-запрос перед отправкой SIGTERM процессу. Используется для graceful shutdown…
wikiGitOps
…Как вы управляете секретами (API keys для LLM) в Kubernetes|255. Как вы управляете секретами (API keys для LLM) в…
wikiLiveness probe
# Liveness probe ## Определение Проверка в Kubernetes, определяющая, жив ли процесс (контейнер не завис); обычно реализуется через эндпоинт /health. ## Где встречается…
answerКак вы управляете секретами (API keys для LLM) в Kubernetes?
…В [[Вики/Kubernetes\|Kubernetes]] стандартный объект [[Вики/Kubernetes Secret\|Secret]] хранит данные в [[Вики/prefill stage\|base64]] — это не [[Вики…
wikihelm
# helm ## Определение Пакетный менеджер для Kubernetes, используемый для управления чартами и деплоя; также название бенчмарка Holistic Evaluation of Language Models…
wikiMinikube
# Minikube ## Определение Инструмент для запуска локального Kubernetes-кластера, используемый для тестирования деплоя RAG-систем, включая blue-green деплой, graceful shutdown…
wikikube-scheduler
# kube-scheduler ## Определение Компонент Kubernetes, отвечающий за размещение подов на узлах кластера с учётом топологии, ресурсов и политик. ## Где встречается…
wikiService Account
# Service Account ## Определение Учётная запись в Kubernetes, назначаемая pod'у, для определения прав доступа через RBAC, например, к секретам с…
wikiKEDA
# KEDA ## Определение Событийно-ориентированный автоскалер для Kubernetes, масштабирующий поды по метрикам из SQS, Kafka, HTTP-эндпоинтов или custom triggers. Позволяет…
wikisops
…Как вы управляете секретами (API keys для LLM) в Kubernetes|422. Как вы управляете секретами (API keys для LLM) в…
wikiSIGTERM
# SIGTERM ## Определение SIGTERM (signal 15) — сигнал завершения процесса, используемый для graceful shutdown в Kubernetes и на spot instances; запускает checkpointing…
wikiClusterSecretStore
…Как вы управляете секретами (API keys для LLM) в Kubernetes|422. Как вы управляете секретами (API keys для LLM) в…
answerКак вы проектируете graceful shutdown для LLM serving pod в Kubernetes?
…PreStop Hook [[Вики/PreStop hook\|PreStop hook]] — это [[Вики/crew\|команда]] или HTTP-запрос, который [[Вики/Kubernetes\|Kubernetes]] выполняет перед…
wikimodel.unload
…Как вы проектируете graceful shutdown для LLM serving pod в Kubernetes|409. Как вы проектируете graceful shutdown для LLM serving…
wikiVault CSI Provider
…Как вы управляете секретами (API keys для LLM) в Kubernetes|255. Как вы управляете секретами (API keys для LLM) в…
wikiEKS
# EKS ## Определение Amazon Elastic Kubernetes Service — сервис для оркестрации контейнерных микросервисов, широко применяемый в MLOps для развертывания LLM. ## Где встречается…
wikiinflight requests
…Как вы проектируете graceful shutdown для LLM serving pod в Kubernetes|409. Как вы проектируете graceful shutdown для LLM serving…