中文翻译暂不可用,显示俄语原文。

sequence

sequence

Определение

В контексте инференса LLM — один запрос, включающий промпт и генерируемые токены, который имеет собственную page table для управления памятью.

Где встречается

Навигация