Trainer

Trainer

Определение

Trainer — это класс из библиотеки Hugging Face Transformers, который упрощает процесс обучения и оценки моделей, автоматизируя циклы обучения, накопление градиентов, логирование и другие задачи. По умолчанию в Trainer и его производных (например, SFTTrainer из TRL) reduction для функций потерь равен mean, что усредняет потери по всем элементам последовательности. Это делает его удобным инструментом для fine-tuning, особенно при работе с паддингом.

Где встречается

Навигация