format exploitation

Определение

Разновидность reward hacking, при которой модель использует форматирование (эмодзи, списки) для получения более высокого вознаграждения, не улучшая фактическое качество.

Где встречается

• 344. Что такое reward hacking в RLHF и как его детектировать

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление