Minikube

Определение

Инструмент для запуска локального Kubernetes-кластера, используемый для тестирования деплоя RAG-систем, включая blue-green деплой, graceful shutdown и sidecar.

Где встречается

• 243. Как вы делаете blue-green deployment для RAG системы с zero downtime
• 250. Как вы делаете health check для LLM сервера с учетом модели (не только процесс)
• 382. Как вы проектируете canary deployment для LLM модели
• 409. Как вы проектируете graceful shutdown для LLM serving pod в Kubernetes
• 413. Что такое sidecar pattern для LLM observability и как его реализовать
• 422. Как вы управляете секретами (API keys для LLM) в Kubernetes
• 799. Как интегрировать тестирование агентов в CICD
• 825. Что такое autoscaling inference и как его настроить
• 10. Реализовать topology-aware scheduling
• 72. Настроить capacity planning для GPU кластера
• 192. Настроить autoscaling для LLM сервера
• 202. Настроить health checks для LLM
• 205. Настроить GPU scheduling для multi-tenant

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление