numerical stability
numerical stability
Определение
Численная стабильность — свойство алгоритма сохранять точность вычислений при работе с большими или малыми числами, например, при вычислении softmax с большими logits.
Где встречается
- 662. Что такое logits и как они связаны с вероятностями temperature scaling
- 800+ вопросов
- 53. Реализовать selective scan (Mamba)