Full fine-tuning
Full fine-tuning
Определение
Метод дообучения, при котором обновляются все параметры модели; требует больших вычислительных ресурсов и большого датасета, склонен к переобучению на малых данных.
Где встречается
- 22. Какие методы fine-tuning вы знаете и какой используете чаще всего
- 24. Какой размер датасета нужен для fine-tuning
- 37. Как вы избегаете переобучения при fine-tuning на маленьком датасете
- 481. Что такое LoRA для training (инференс уже знаем)
- 699. Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)
- 800+ вопросов