English translation is not available yet. Showing Russian content.
scaling factors
scaling factors
Определение
Параметры, используемые Transformer Engine для масштабирования тензоров при конвертации FP16 в FP8, чтобы избежать переполнения.
Где встречается
- 458. Что такое FP8 инференс на H100 (Transformer Engine)
- 460. Как работает tensor parallelism с FP8 в vLLM
- 800+ вопросов