Dynamic range

Dynamic range

Определение

Разница между минимальным и максимальным представимым числом в числовом формате; критична для точности обучения, например, у BF16 динамический диапазон шире, чем у FP16.

Где встречается

Навигация