num_alloc_retries

Определение

Метрика, показывающая количество повторных попыток выделения памяти, что указывает на фрагментацию и может влиять на производительность LLM-сервера.