Calibration RM

Определение

Обучение reward model предсказывать калиброванные вероятности, например через Platt scaling, для уменьшения reward hacking.

Где встречается

• 329. Как обучается reward model для RLHF и как избегать reward hacking

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление