outlier-aware scaling

Определение

Подход к выбору scaling factor при квантизации, учитывающий выбросы для минимизации потери точности, особенно актуален для FP8 на H100.

Где встречается

• 312. Как работает FP8 quantization на H100 (Transformer Engine)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление