中文翻译暂不可用,显示俄语原文。
draft length
draft length
Определение
Длина последовательности токенов, генерируемых draft-моделью за один шаг в speculative decoding. Оптимальное значение — 3–5 токенов.
中文翻译暂不可用,显示俄语原文。
Длина последовательности токенов, генерируемых draft-моделью за один шаг в speculative decoding. Оптимальное значение — 3–5 токенов.