PEFT
PEFT
Определение
PEFT (Parameter-Efficient Fine-Tuning) — это группа методов дообучения больших языковых моделей, которые изменяют лишь небольшое количество параметров (например, с помощью адаптеров, LoRA, Prefix Tuning), оставляя основную часть весов замороженной. Это позволяет значительно снизить вычислительные затраты и требования к памяти, сохраняя при этом высокое качество на целевой задаче. PEFT особенно полезен для быстрой адаптации моделей под конкретные сценарии без необходимости полного переобучения.