Overcorrection
Overcorrection
Определение
Явление, когда механизм самокоррекции агента приводит к избыточному отклонению правильных действий или ответов из-за чрезмерной критики.
Где встречается
- 149. Как спроектировать агента, который может самоисправляться (self-correction)
- 589. Как вы делаете agent с human values alignment (Constitutional AI для агентов)