LAMB

Определение

LAMB (Layer-wise Adaptive Moments for Batch training) — оптимизатор, модифицирующий Adam для эффективного обучения с большими батчами за счет адаптации learning rate по слоям.

Где встречается

• 659. Что такое Adam optimizer и как работают его параметры (β1, β2, ε, learning rate)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление