IA³

Определение

Метод PEFT, обучающий векторы масштабирования для ключей, значений и слоёв FFN (аналогично IA3). Позволяет тонко настраивать модель с малым количеством дополнительных параметров.

Где встречается

• 22. Какие методы fine-tuning вы знаете и какой используете чаще всего

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление