E4M3

Определение

Формат FP8 с 4 битами экспоненты и 3 битами мантиссы, применяемый для квантования весов и активаций.

Где встречается

• 312. Как работает FP8 quantization на H100 (Transformer Engine)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление