gradient monitoring

Определение

Наблюдение за нормами градиентов во время обучения для раннего обнаружения затухания (vanishing) или взрыва (exploding) градиентов.

Где встречается

• 664. Что такое vanishing exploding gradients в трансформерах и как их предотвратить
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление