normalization

normalization

Определение

Приведение данных к единому формату или масштабу (например, деление на √d_k в attention) для улучшения обучения, стабильности и качества модели. Используется на этапах предобработки данных и в архитектуре нейросетей.

Где встречается

Навигация