градиент кросс-энтропии

Определение

Производная функции потерь cross-entropy по логитам, имеющая простую форму (p - y_true), что упрощает обратное распространение при обучении.

Где встречается

• 656. Как работает кросс-энтропия (cross-entropy loss) для LLM обучения

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление