NF4
NF4
Определение
NF4 (4-bit NormalFloat) — это 4-битный тип данных, разработанный для квантования весов нейросетей, имеющих приблизительно нормальное распределение. Он обеспечивает более высокую точность по сравнению со стандартным 4-битным квантованием за счет использования нормализованного представления с плавающей точкой. NF4 является ключевым компонентом метода QLoRA, позволяя эффективно fine-tune большие модели с минимальной потерей качества.