Overconfidence bias

Определение

Overconfidence bias (смещение избыточной уверенности) — это когнитивное искажение, при котором модель машинного обучения или человек приписывает своим прогнозам или решениям чрезмерно высокую степень уверенности, не соответствующую фактической точности. В контексте AI/ML это проявляется в том, что модель выдаёт высокие вероятности или уверенные оценки даже в ситуациях, где человеческое суждение было бы неопределённым. Данное смещение может приводить к ошибочным выводам и снижению надёжности системы.

Где встречается

• 997. Что такое RLAIF (RL from AI Feedback)? Как масштабировать RLHF с помощью LLM-асессоров?

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление