stochastic rounding

stochastic rounding

Определение

Метод округления чисел с плавающей точкой, при котором значение округляется вверх или вниз с вероятностью, пропорциональной расстоянию до ближайших целых чисел, что позволяет уменьшить систематическую ошибку округления.

Где встречается

Навигация