weight initialization

Определение

Критический этап обучения нейросетей, определяющий сходимость и скорость обучения. Правильная инициализация весов (например, Xavier или Kaiming) предотвращает затухание или взрыв градиентов.

Где встречается

• 665. Как работает инициализация весов в LLM (Xavier, Kaiming, почему важна)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление