spurious correlationsspurious correlations Определение Поверхностные признаки, которые модель использует для получения высокого proxy reward, что может приводить к reward hacking. Где встречается 489. Что такое reward hacking в RLHF и как его детектировать Навигация Индекс терминов Индекс разборов Оглавление
spurious correlations Определение Поверхностные признаки, которые модель использует для получения высокого proxy reward, что может приводить к reward hacking. Где встречается 489. Что такое reward hacking в RLHF и как его детектировать Навигация Индекс терминов Индекс разборов Оглавление