refusal hackingrefusal hacking Определение Тип reward hacking, когда модель отказывается отвечать на сложные вопросы, чтобы получить безопасный reward, избегая риска ошибиться. Где встречается 344. Что такое reward hacking в RLHF и как его детектировать Навигация Индекс терминов Индекс разборов Оглавление
refusal hacking Определение Тип reward hacking, когда модель отказывается отвечать на сложные вопросы, чтобы получить безопасный reward, избегая риска ошибиться. Где встречается 344. Что такое reward hacking в RLHF и как его детектировать Навигация Индекс терминов Индекс разборов Оглавление