中文翻译暂不可用,显示俄语原文。

selective activation recomputation

selective activation recomputation

Определение

Метод оптимизации памяти при обучении и инференсе больших моделей, при котором пересчитываются только выбранные активации (например, каждого второго слоя) для баланса между памятью и скоростью.

Где встречается

Навигация