Knowledge Portal

aivaro.ru

  • Оглавление
  • Вопросы
  • Практика
  • Вики
  • Тесты
  • Поиск
✈Telegram @AetSeidhe
RUEN中文
…
Оглавление/Вики/Pod

Pod

Pod

Определение

Базовая единица развёртывания в Kubernetes, содержащая один или несколько контейнеров с общими ресурсами и сетью.

Где встречается

  • 413. Что такое sidecar pattern для LLM observability и как его реализовать
  • 800+ вопросов

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминarchitecture

Ссылки

  • Что такое sidecar pattern для LLM observability и как его реализовать?

Обратные ссылки (12)

  • Индекс терминов
  • Как вы деплоите LLM на spot instances в облаке?
  • Как вы проектируете graceful shutdown для LLM serving pod в Kubernetes?
  • Как вы проектируете graceful shutdown для LLM serving pod в Kubernetes?
  • Как вы управляете секретами (API keys для LLM) в Kubernetes?
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить auto-scaling для vLLM
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить health checks для LLM
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать topology-aware scheduling для K8s device plugin с учётом NVSwitch доменов
  • Что такое AdmissionController в Harness и зачем он нужен?
  • Что такое autoscaling inference и как его настроить?
  • Что такое sidecar pattern для LLM observability и как его реализовать?
  • Что такое sidecar pattern для LLM observability и как его реализовать?