Diversity loss
Diversity loss
Определение
Снижение разнообразия генерируемых моделью выходов по мере обучения. Часто возникает при чрезмерной оптимизации под целевую метрику (например, reward hacking), когда модель начинает повторять однотипные успешные ответы, теряя способность к творческим или вариативным решениям.