structural pruning

Определение

Метод сжатия моделей, при котором удаляются целые нейроны, слои или головы внимания, что может нарушить распределение логитов.