Linear layersLinear layers Определение Полносвязные слои, для которых в vLLM поддерживается FP8; остальные операции остаются в FP16/FP32. Где встречается 460. Как работает tensor parallelism с FP8 в vLLM Навигация Индекс терминов Индекс разборов Оглавление
Linear layers Определение Полносвязные слои, для которых в vLLM поддерживается FP8; остальные операции остаются в FP16/FP32. Где встречается 460. Как работает tensor parallelism с FP8 в vLLM Навигация Индекс терминов Индекс разборов Оглавление