Delta regularization
Delta regularization
Определение
Дельта-регуляризация (delta regularization) — техника регуляризации, штрафующая отклонение весов модели от их исходных предобученных значений. Используется для предотвращения катастрофического забывания при дообучении (fine-tuning).