overoptimization

Определение

Явление, при котором дальнейшая оптимизация proxy reward приводит к ухудшению истинной целевой функции (true objective), часто из-за переобучения на proxy.

Где встречается

• 344. Что такое reward hacking в RLHF и как его детектировать

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление