защита важных весов
защита важных весов
Определение
Техника квантизации, при которой наиболее важные веса (1%) остаются в FP16 для сохранения качества. Используется в AWQ.
Техника квантизации, при которой наиболее важные веса (1%) остаются в FP16 для сохранения качества. Используется в AWQ.