drain connections

Определение

Процесс плавного закрытия сетевых соединений к LLM serving поду при завершении работы, позволяющий корректно завершить активные запросы.