adaptive learning rates

Определение

Механизм оптимизатора Adam, нормализующий шаги обновления по второму моменту градиента для уменьшения влияния шума и ускорения сходимости.

Где встречается

• 468. Почему small batch size (32) ухудшает training стабильность

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление