dynamic scaling

Определение

Автоматическое вычисление scaling factor на каждом шаге обучения или инференса для адаптации к распределению значений, применяемое в FP8 квантовании.

Где встречается

• 312. Как работает FP8 quantization на H100 (Transformer Engine)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление