Monte Carlo Dropout
Monte Carlo Dropout
Определение
Monte Carlo Dropout — техника, при которой dropout остаётся включённым во время инференса, позволяя получить несколько прогонов для оценки неопределённости предсказания (epistemic uncertainty) без дополнительного обучения.
Где встречается
- 37. Как вы избегаете переобучения при fine-tuning на маленьком датасете
- 291. Как вы измеряете uncertainty в ответах LLM (logit-based vs ensemble methods)
- 294. Как вы калибруете вероятности LLM для classification задач
- 675. Как работает dropout и зачем он нужен в LLM (regularization)
- 872. Что такое calibration для LLM и как её измерять (ECE)
- 233. Агент с human-in-the-loop