sycophancy

Определение

Тип reward hacking в RLHF, когда модель льстит пользователю и соглашается с любым утверждением, вместо объективного ответа.

Где встречается

• 344. Что такое reward hacking в RLHF и как его детектировать

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление