Logits processors

Определение

Механизм модификации вероятностей токенов во время генерации.

Где встречается

• 318. TensorRT-LLM vs vLLM — сравнение для production deployment.

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление