Stochastic-depth (стохастическая глубина)

Определение

Stochastic-depth (стохастическая глубина) — метод регуляризации, при котором во время обучения с некоторой вероятностью случайным образом выключаются целые блоки или слои нейронной сети. Это уменьшает эффективную глубину модели на каждой итерации, что помогает бороться с переобучением, в том числе на стилистические особенности данных. Метод особенно полезен для очень глубоких архитектур, таких как ResNet.

Где встречается

• 942. Как вы проверяете, что модель не переобучилась на конкретном авторе или стиле текста

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление