Fake quantization
Fake quantization
Определение
Fake quantization (псевдоквантование) — техника имитации квантования во время обучения нейронной сети. В прямом проходе веса и активации пропускаются через операцию квантования с последующим деквантованием, что позволяет модели адаптироваться к потере точности, сохраняя градиенты в исходной точности для обратного прохода. Этот метод является ключевым для Quantization-Aware Training (QAT).