AdaGrad

Определение

Адаптивный оптимизатор, который корректирует скорость обучения для каждого параметра на основе истории градиентов; предшественник Adam.