Kubernetes device plugin
Kubernetes device plugin
Определение
Плагин Kubernetes, управляющий доступом к специализированным устройствам (например, GPU), поддерживающий MIG, MPS и time-slicing, и позволяющий экспортировать топологию устройств для topology-aware планирования.
Где встречается
- 826. Как организовать GPU scheduling для multi-tenant LLM serving
- Практика
- 10. Реализовать topology-aware scheduling