gradient descent

Определение

Алгоритм оптимизации, минимизирующий функцию потерь путём итеративного обновления параметров в направлении антиградиента; широко используется в обучении нейросетей.

Где встречается

• 153. Что такое ∇-Reasoner (nabla-reasoner) и как он использует градиентный спуск на этапе теста
• 718. Что такое Test-Time Training (TTT) слои и как они работают
• 800+ вопросов
• 67. Реализовать latent reasoning (∇-Reasoner)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление