Covariate shift
Covariate shift
Определение
Изменение распределения входных признаков (например, эмбеддингов) при неизменном условном распределении ответов. Отслеживается для детекции дрейфа данных в RAG-системах и стабилизации обучения.
Где встречается
- 260. Как вы отслеживаете data drift для распределения запросов к RAG
- 654. Как работает LayerNorm и RMSNorm В чем разница и почему RMSNorm быстрее