English translation is not available yet. Showing Russian content.
smooth quantization
smooth quantization
Определение
Метод сглаживания выбросов в весах или активациях перед инференсом, позволяющий уменьшить потери точности при низкобитной квантизации, например до FP8.