Autograd
Autograd
Определение
Механизм или библиотека автоматического дифференцирования, вычисляющая градиенты нейросети с сохранением промежуточных активаций. Используется в PyTorch и других фреймворках для обучения моделей.
Где встречается
- 153. Что такое ∇-Reasoner (nabla-reasoner) и как он использует градиентный спуск на этапе теста
- 465. Как работает gradient checkpointing в DeepSpeed
- 730. Что такое LLM для symbolic regression (AI Feynman) и как это работает
- 67. Реализовать latent reasoning (∇-Reasoner)