backpropagation
backpropagation
Определение
Метод обучения нейронных сетей, использующий цепное правило для вычисления градиентов функции потерь по всем параметрам. Применяется на этапе обратного распространения ошибки.
Где встречается
- 480. Как работает selective activation recomputation
- 570. Что такое tree search agents (MCTS for LLM) и когда они эффективны
- 638. Как работает ∇-Reasoner (градиентный спуск в пространстве токенов на этапе теста)
- 718. Что такое Test-Time Training (TTT) слои и как они работают
- 893. Как работает tree search (MCTS) для LLM агентов
- 899. Что такое DSPy в контексте агентов
- Практика
- 800+ вопросов
- 53. Реализовать selective scan (Mamba)
- 54. Сравнить Hyena vs FlashAttention на 128k
- 62. Настроить MCTS для математических задач
- 67. Реализовать latent reasoning (∇-Reasoner)
- 92. Профилировать GPU utilization падение