E5M2

Определение

Формат FP8 с 5 битами экспоненты и 2 битами мантиссы, применяемый для квантования градиентов.

Где встречается

• 312. Как работает FP8 quantization на H100 (Transformer Engine)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление