English translation is not available yet. Showing Russian content.
Symmetric quantization
Symmetric quantization
Определение
Метод квантизации, где w_q = round(w / scale), scale = max(|w|) / (2^(bits-1) - 1), обеспечивающий симметричное представление чисел.