delta weights

Определение

Дельта-веса (delta weights или ΔW) — разность между весами адаптера и исходной базовой модели. В параметр-эффективном дообучении (PEFT) хранятся как отдельные адаптеры, например в LoRA.

Где встречается

• 40. Как вы объединяете несколько LoRA адаптеров для разных задач

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление