中文翻译暂不可用,显示俄语原文。
selective activation recomputation
selective activation recomputation
Определение
Метод оптимизации памяти при обучении и инференсе больших моделей, при котором пересчитываются только выбранные активации (например, каждого второго слоя) для баланса между памятью и скоростью.