AdaGrad

Определение

Адаптивный оптимизатор, который корректирует скорость обучения для каждого параметра на основе истории градиентов; предшественник Adam.

Где встречается

• 669. Как работает связь между SGD и Adam Почему Adam лучше для LLM

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление