中文翻译暂不可用，显示俄语原文。
sequence slots
sequence slots
Определение
Механизм в TensorRT-LLM для параллельной обработки множества запросов путём выделения фиксированных слотов под последовательности. Позволяет эффективно батчить запросы разной длины.
中文翻译暂不可用，显示俄语原文。
Механизм в TensorRT-LLM для параллельной обработки множества запросов путём выделения фиксированных слотов под последовательности. Позволяет эффективно батчить запросы разной длины.